回顾：人工智能的演变
人工智能自20世纪50年代以来就已存在，当时研究人员首次设想能够“思考”的机器。 早期的人工智能系统基于规则且僵化，但机器学习和深度学习的兴起使人工智能变得更加适应性强，能够从数据中学习并随着时间不断改进。 到了2010年代，人工智能已经驱动了日常技术，如语音助手、推荐引擎，甚至自动驾驶汽车。 但随着人工智能的成熟，人们发现仅依赖 集中式云计算存在局限性，尤其是在需要实时响应、更强隐私和更低功耗的应用中。
这自然而然地发展到了：
- 云人工智能 实现集中智能，可以接入强大的算力资源。
- 边缘人工智能 将处理过程移近数据源，降低延迟并提升隐私。
- 端点人工智能 将超高效的智能直接传递到微型设备上。
每个阶段都反映了对更快、更智能、更安全响应日益增长的需求，这源于经验教训和现代技术不断演变的需求。
云人工智能：能力强大，但并非完美无缺
近年来，云人工智能平台彻底改变了我们与人工智能的互动方式。 其中一些最著名的工具包括：
- ChatGPT，OpenAI： 它让你生成文本、回答问题、编写代码和头脑风暴变得简单。
- 谷歌 Gemini： 通过多模态能力扩展可能性，理解并生成文本、图像等内容。
- 微软 Azure AI： 使开发者和企业能够大规模构建、训练和部署先进的机器学习模型。
- 亚马逊 SageMaker： 提供端到端平台，用于开发、培训和部署复杂的机器学习模型。
这些平台在内容生成、数据分析、客户支持自动化和企业决策方面表现出色。 它们也非常适合快速原型制作，让团队能够快速测试和迭代。
然而，尽管云人工智能有其优势，但它并非能够独立完成任务的解决方案。 它依赖稳定的网络连接，且在 实时响应方面存在困难，因此不适合自动驾驶或工业控制等关键任务。 由于数据是远程处理的，离线功能有限，延迟可能成为问题，且当敏感信息流出设备时会引发隐私问题。 此外，云人工智能并不适合能源效率至关重要的电力受限环境。 这些局限为边缘 和终端人工智能铺平了道路，这些技术将智能更接近源头。 通过本地处理数据，它们提供了更快的响应、更强的隐私和更大的自主性，尤其是在云连接不切实际或不安全的场景下。
边缘人工智能：更智能、更快速且本地互联
边缘人工智能将智能带到数据生成的更近地点，比如摄像头、车辆或工业机器等设备。 它不把所有数据都送到云端，而是本地处理，可以直接在设备上，也可以通过附近的服务器或网关处理。
在自动驾驶、工业自动化和实时视频分析等应用中， 实时决策 至关重要。 等待数据传输到云端再返回，速度远远不够快。 Edge AI通过实现源头即时响应来解决这个问题。
它还带来了隐私和带宽方面的重大优势。 由于数据在本地处理，无需传输到云端，减少了暴露并节省了网络资源。 设备也可以离线继续运行，这在偏远地区或网络通信不稳定环境中尤为重要。
然而，并非所有设备都能独立运行复杂的人工智能模型。 这时， 本地服务器，通常称为边缘网关，就派上用场了。 这些设备作为邻近的枢纽，处理更复杂的处理任务，降低延迟，并允许多台设备高效协作和共享资源。
然而，Edge AI也面临其自身的一系列挑战。 本地计算能力相比云计算能力有限，这可能限制模型的复杂性。 管理分布式的边缘设备和服务器网络带来了维护复杂性，需要细致协调和定期更新。 安全也是另一个担忧;本地系统必须得到良好保护以避免漏洞。 而且数据分散在众多设备中，集中管理洞察可能很困难，导致碎片化。
尽管面临这些障碍，Edge AI依然持续获得关注，因为它能够在最需要的地方提供云端无法做到的速度 、自主性和控制力。
终端人工智能：微型设备，大智能
终端人工智能更进一步，将人工智能运行在超小型、低功耗设备如微控制器和嵌入式系统上。 这些设备不仅收集数据，还能即时分析并采取行动。
终端人工智能的关键要求
在许多现代应用中，从偏远的工业现场到基于边缘的医疗系统，设备通常在 功率受限的环境中运行，这意味着它们必须在有限的功率条件下高效运行，每一度电都至关重要。 无论是在恶劣气候中部署的传感器，还是移动系统中的控制单元，挑战依然存在：在不浪费资源的情况下提供智能功能。
为了满足这些需求， 能源效率 至关重要;AI模型应在保持可靠性能的同时，消耗最少的功耗。 这需要重新思考设计，优先考虑 紧凑高效的模型，使算法在内存和计算资源有限的设备上流畅运行。
强有力的安全 也是首要任务。 数据必须在本地得到保护，以确保隐私和安全，尤其是在处理医疗或工业运营中敏感信息时。 依赖云连接并不总是可行或安全。
最后， 可靠的性能 也是不可妥协的。 设备必须稳定且独立地运行，不能依赖外部网络或云服务，而这些服务在这些环境中可能不可用或不稳定。
这些需求——电力受限的应用、能效、紧凑高效的模型、强大的安全性以及可靠的性能——共同构成了智能系统在电力受限环境中的基础，确保了效率、安全性和自主性。
终端人工智能的挑战
向终端人工智能的转变并非没有挑战。
许多终端设备在严格的硬件限制下运行;它们的处理能力和内存都很有限，导致运行传统AI模型变得困难。 为了克服这一点，开发者必须通过压缩和简化 模型来优化模型 ，同时不牺牲准确性。 这是性能与效率之间的微妙平衡。
跨数百万设备管理这些模型又增加了一层复杂性。 部署和更新 在后勤上可能非常紧张，尤其是当设备分布在不同地理和环境中时。 互作性 同样至关重要;设备必须无缝集成于更广泛的系统和网络，无论制造商或协议如何。
尽管面临这些障碍，终端人工智能正迅速崛起，成为智能计算的下一个前沿。 它实现了设备直接实时 决策 ，无需等待云端响应。 这不仅提升了速度和响应速度，还支持了可 扩展、去中心化的人工智能生态系统 ，其中智能是分布式而非集中式的。
最重要的是，端点AI通过保持数据本地化，增强 了隐私和自主性 。 敏感信息仍留在设备上，减少了风险暴露并提升了信任度，尤其是在医疗、制造和智能基础设施等行业。
瑞萨电子支持终端人工智能
瑞萨通过强大且可扩展的解决方案栈应对终端人工智能的挑战，旨在支持从硅片到软件的智能互联系统。
瑞萨解决方案堆栈为构建智能互联AIoT系统提供了完整且可扩展的环境。 从强大的硬件组合开始，涵盖从低功耗传感到高性能边缘处理的多元设备。 基于此基础，嵌入式软件、软件开发套件（SDK）以及像e² studio集成开发环境这样的工具实现了无缝集成。 下一层增加了用于实时分析、视觉和语音的AI/ML软件，由Reality AI工具® 和稳健统一异构模型集成（RUHMI）等专业框架驱动。 应用支持通过精选资源加速开发，合作伙伴生态系统确保兼容性和可信集成，实现从硅基到智能的顺畅旅程。
接下来，我们将探讨赋予该解决方案栈灵活性和性能的处理器和软件层，适用于多样化的AIoT应用。
硬件阵容——从超低功耗MCU到高性能多作单元
瑞萨提供可扩展的16位和32位MCU组合，以及64位MPU组合，专为满足AI/ML工作负载在广泛应用中不断演变的需求而定制，涵盖从简单传感到复杂的多模态处理。
- RL78： 超低功耗，适合简单的单功能AI任务。
- RX： 基础多模态AI的高效性能。
- RA： 更强的计算能力支持高级语音、视觉和分析。
- RZ： 为复杂实时多模态人工智能提供最大处理能力。
这一进步确保开发者能够将计算资源与其应用的特定AI/ML需求对齐，从简单的分析扩展到完全集成的智能边缘解决方案。
采用硬件实现的 Ethos™ - U55 神经处理单元
瑞萨首款32位集成AI加速单元的 MCU RA8P1 系列，配备Arm® Cortex®-M85 核心、大容量的片上内存、先进外设和外部存储接口，非常适合计算密集型AI应用场景。 提供单核和双核版本，具备扩展性和内置安全功能，包括加密IP、不可篡改存储和篡改检测。 开发由灵活软件包（FSP）、ROHMI AI平台和e² studio支持，以实现简化工作流程。
RZ/G3E微处理器专为边缘人工智能设计，结合了四核Arm Cortex-A55和Cortex-M33，并集成了高级人工智能推理单元。 它支持丰富的人机界面（HMI）应用，配备 Mali-G52 GPU、视频编解码器和多屏全高清输出，以及 LPDDR4/4X 内存和高速接口，如 PCIe Gen3 和千兆以太网。 内置的加密引擎和防篡改保护确保了安全、高性能的边缘计算。
软件和工具
借助瑞萨的智能工具和框架，加速从设计到部署的人工智能创新。
现实人工智能工具与实用工具
一个简化的平台，用于构建快速高效的TinyML和Edge AI模型。 它利用先进的信号处理和自动化数据探索，帮助开发者识别最优传感器、配置，甚至生成组件规格，所有这些都在统一的工作流程中实现。
模型在时域和频域均可完全解释，平台输出的优化代码包括：
- Arm Cortex-M, A, and R
- 瑞萨专有RX、RL78处理器内核产品——实现从数据到设备的部署过程。 配合Reality AI Explorer Tier，开发者可以亲自体验实际应用中的开发过程。
Reality AI™ Utilities
简化了从原始传感器数据到部署在边缘设备（如MCU、MPU）上的AI模型的过程。 无论使用Renesas e² studio还是其他集成开发环境，它都支持完整的往返AI工作流程，从数据收集、模型训练到验证和部署。 关键特性包括：
- 内置工具，可从任何瑞萨项目中实时捕捉传感器数据
- 直接上传到 Reality AI Tools
- 得到优化后的AI模型可以集成到你的代码中
通过FSP/FIT集成，传感器数据流被抽象化，你可以专注于基于数据构建AI模型，而不用担心将嵌入式开发和AI开发混在一起所产生的巨大的复杂性。
在验证方面，HiL Testing 和 AI Live Monitor 提供模型在实际硬件上的实时性能可视化，使调试、调优和信任边缘 AI 变得更容易。
图 7： AI Live Monitor
图 8： Data Collection Tool
图 9： HiL Testing
RUHMI 编译工具集
无论你是刚开始工作还是优化生产环境， RUHMI 框架 都简化了从人工智能模型到嵌入式部署的过程。 RUHMI 内置于 Renesas e² studio 中，或作为独立工具提供，配备了强大的 AI 编译器，能在几分钟内生成高度优化的代码，用于 Renesas 嵌入式处理器。
它支持从TensorFlow Lite（TFL）、Pytorch和ONNX等流行框架导入模型，自动处理训练后校准、量化和转换。 输出的结果是干净高效的 C/C++ 代码，随时准备部署。 凭借 Python API、CLI 和 GUI 选项，以及现成的示例，包括最新的 RA8P1 MCU，RUHMI 无缝融入您的工作流程。
RAIMD（瑞萨AI模型部署工具）：对Vision AI开发者更友好
Renesas AI 模型部署工具将 Vision AI Model Zoo 的强大功能整合进一个简洁直观的图形界面，使嵌入式开发者更容易在边缘构建、训练和部署视觉 AI 模型。
它在你的工作站上本地运行，无需云基础设施，让你完全掌控工作流程。 支持对象检测和图像分类，您可以只需几次点击即可从数据集到部署。 该工具负责项目搭建、数据集分析、训练（包括QAT和剪枝）、可视化评估和硬件部署。
实时摄像头推断、USB流媒体和实时反馈帮助快速且准确地验证模型。 对于高级用户，GitHub上附带的Jupyter Notebook支持更深层次的自定义，如数据增强、超参数调优和自带模型（BYOM）工作流程。
开发平台
AI套件 - AIK参考板
所有AI套件都设计为实现视觉、音频和分析领域的灵活多模态AI/ML开发。 无论具体型号如何，它们都为快速原型设计和创新提供了共同基础。 像AIK-RA8D1这样的板子支持多模态，包括视觉、音频和分析，专为快速原型设计而设计。 它们不仅仅是开发硬件，更是创新的跳板。 通过可重构连接，开发者可以轻松接入传感器、更换组件，不断调整他们的AI/ML系统，不受固化架构的限制。
无论目标是基于视觉的识别、实时分析还是音频处理，AIK-RA8D1 都已准备好。 它与机载模拟麦克风和内置摄像头无缝集成，轻松实现单模态或多模态的AI/ML解决方案。
真正的价值在于与Reality AI软件结合，实现实用的实时洞察。 在瑞萨广泛的合作伙伴的支持下，开发者可访问丰富的工具和示例生态系统，专为视觉和音频应用场景量身定制。
从评估预构建应用到打造新应用，这些AI套件不仅仅是一个套件，更是创造力的画布，也是通往嵌入式智能未来的门户。
解决方案套件、应用示例及解决方案套件概念
为了加速创新，瑞萨提供解决方案套件，这是一套精心策划的应用示例、参考设计和AI/机器学习概念合集。 这些套件结合了硬件、软件和预集成智能，帮助开发者自信地从想法到实施。
无论您是在构建智能暖通空调系统、智能边缘设备，还是下一代工业解决方案，瑞萨解决方案套件都能为您提供先机，让您专注于创造。
瑞萨还提供丰富的合作伙伴生态系统、按需培训和参考设计，以缩短上市时间。
人工智能最初在实验室中发展，后来迁移到云端，在边缘加速发展，现在甚至运行在我们周围最小的设备上。 每一步都解决了现实世界的挑战，使人工智能更具响应性、隐私性和可访问性。 在瑞萨的引领下，终端人工智能变得更智能、更具可扩展性和更易部署，将智能应用于从可穿戴设备、机器人到工业机械及更多领域。 了解瑞萨如何在实时分析、语音和视觉领域推动边缘人工智能的发展。
