谈到如何设计AI加速器，许多工程师都会给出不同的答案，但归根结底仍是在一颗先进制程的芯片上排列组合数十亿个晶体管。然而当前超大规模的AI推理依然面临着不少挑战，比如成本和复杂度高居不下，传统架构下的性能、功耗和可编程性无法满足超大规模的要求等。初创公司Esperanto作为去年才开始冒头的初创企业，却打算用RISC-V来解决这一问题。
Esperanto创立于2014年，其董事长Dave Ditzel曾在英特尔负责下一代微处理器架构的设计。Esperanto的工作方向是基于RISC-V这一开放架构，开发高性能、高效率的计算方案。为此，他们打造了ET-SoC-1，一个千核的RISC-V处理器，也是他们开发的首个AI加速器。

ET-SoC-1 / Esperanto
ET-SoC-1的名字寓意并不是传统的SoC，而是面向超大规模数据中心的“片上超级电脑”。它包含了近乎1100个RISC-V核心，近240亿晶体管。需要指出的是，ET-SoC-1是一个AI推理加速器，并不是训练加速器。
据CEO Art Swift介绍，该芯片采用了台积电7nm制程，在特定的工作任务上，能耗效率提高可至100倍。ET-SoC-1在其他关键工作任务上，性能提升要远高于传统的CPU加GPU方案。比如在模拟测试中，用于推荐网络时，其性能提升高达50倍，在图像分类上，性能提升高达30倍。虽然这些暂时只是纸面测试参数，但这样的性能和功耗无疑可以给AI客户带来很大的吸引力。
据了解，这一芯片直至2021年第二季度才正式流片，预计2022年早期才会开始量产。这是因为Esperanto花了很多时间在验证上，作为一家初创公司，Esperanto采用了架构、硬件和软件联合设计的方式，这样一来虽然节省了时间，却也让规格一直在持续变动。因此Esperanto在验证团队上投入了许多精力，也率先采用了新思的ZeBu FPGA仿真方案，以求减少查错和除错时间。

ET-SoC-1芯片架构 / Esperanto
ET-SoC-1用到了两种Esperanto自研的RISC-V核心，分别是4个ET-Maxion（超标量乱序核）和1089个ET-Minion（顺序多线程核心）。ET-Maxion是一颗可以运行Linux的大核心，核心频率超过2GHz，作为ET-SoC-1的控制CPU，而ET-Minion则用于矩阵乘法等重度机器学习数据处理。
ET-Maxion作为核心频率超过2GHz的10级流水线RISC-V核心，其实原本是伯克利大学Boom V2开源核心的的分支，但Esperanto对此进行了大刀阔斧的改进。在SPEC2006测试下，其性能已经超过了Cortex-A57，不过还是次于Cortex-A72以及SiFive最近公布的P550。
虽然是一个小核，但ET-Minion也是一个64位RISC-V核心。ET-SoC-1内，32个ET-Minion和4MB的L2 SRAM组成了“Minion Shire”，一共34个Shire采用Mesh的方式连接在一起，多出来的一个ET-Minion则用作服务处理器。Esperanto用这一千多个ET-Minion做到了强大的浮点性能，某些传统加速器仅支持INT8运算，而ET-SoC-1在FP16或FP32上都能展现出不俗的优势。


搭载6个ET-SoC-1的Glacier Point v2 / Esperanto
Art Swift提到，Facebook推出的开源AI板卡Glacier Point v2可以搭载6个ET-SoC-1芯片，这样以来就可以直接接入已有的开源计算项目（OCP）设备中。这一张卡上就包含了6558个RISC-V核心和192GB的LPDDR4X DRAM，带宽可达822GB/s的同时还拥有较低的功耗。据估计，这一设计的板卡峰值性能可达800 TOPS（INT8）以上。
在软件层面上，Esperanto也为C++、Pytorch和TensorFlow常见的机器学习框架提供了支持。只需采用Facebook的开源编译器，就可以在多个ET-SoC-1芯片上运行机器学习模型。

结语
RISC-V虽然在传统的CPU与GPU市场还未彻底崛起，但在AI加速上，已经以其独到的优势迅速攻城略地。这种千核式的设计其实已经应用于Arm等架构，不少数据中心、超算却依然在尝试用RISC-V作为加速器。
RISC-V凭借其开放性、扩展性和自主性，并没有像Arm那样由低至高地发展市场，而是低端和高端两头抓，一旦消费市场也开始普及RISC-V生态，那时的RISC-V就有与Arm全市场争霸的希望了。

【时擎科技AT1000开发板试用体验】之 开箱报告 首先感谢时擎科技提供的开发板，开箱内容如下：1.AT1000开发板3.时擎科技精美笔记本4.时擎科技产品介绍 发表于 06-30 11:45 •
华为基于昇腾AI助力北京电信AI智算中心建设 本次大会，北京电信与达闼机器人股份有限公司，软通智慧信息技术有限公司两家公司就AI智算中心算力服务签.... 发表于 06-30 11:20 •
科大讯飞发布AI学习机 提供硬件级健康守护 科大讯飞AI学习机暑期新品发布会刚刚结束，国际标准化组织专家吴永和表示，科大讯飞在人工智能领域取得引.... 科技绿洲 发表于 06-30 11:14 •
NVIDIA DeepStream SDK是什么 有哪些特性 快速开发和部署视觉 AI 应用和服务。DeepStream 提供多平台、可扩展、TLS 加密的安全性.... NVIDIA英伟达企业解决方案 发表于 06-30 10:55 •
随着复工复产稳中推进，随之暴露而出的线上营销效果差、远程协同效率低下等挑战，也时刻困扰着许多企业的复.... 微软科技 发表于 06-30 09:31 •
透过华为军团看科技之变（五）：智慧园区 军团模式，华为是这样定义的：以军团化的改革，积极地调整队形，采取灵活机动的战略战术，坚定地为客户创造.... 脑极体 发表于 06-30 09:16 • 142次
RISC-V在可穿戴市场的应用现状和前景 飞外网报道（文/吴子鹏）随着越来越多RISC-V芯片产品的发布，RISC-V和终端应用的结合愈.... Felix分析 发表于 06-30 07:38 • 333次
最近两年RISC-V很火，主要原因还是因为这个处理器是开源的。目前市面上也有有很多的书籍讲RISC-V的原理和架... 发表于 06-29 21:36 • 676次
如何对基于RISC-V AB5301A开发板的ADC进行测评呢 1、 AB32VG1-ADC测评AB32VG1开发板中科蓝讯（Bluetrum）公司推出的基于RISC-V架构的高配置芯片A... 发表于 06-29 18:13 • 3171次
全球领先的神经拟态人工智能（AI）IP 和芯片商业生产商 BrainChip ，宣布与普诺飞思（Pr.... 科技绿洲 发表于 06-29 17:29 • 297次
DSO.ai持续引领AI设计芯片新纪元 热启动让效率加倍 EDA+AI发力 来源：新思科技 1956年人工智能（AI）概念被提出时，即使是想象力最丰富的预言家，应该也难以预料到.... 半导体芯科技SiSC 发表于 06-29 16:29 • 1136次
爱笔智能依托华为Atlas 300I Pro推理卡推出银行网点数字化解决方案 近日，基于昇腾AI，爱笔智能的银行网点数字化解决方案与华为Atlas 300I Pro推理卡完成兼容.... 科技绿洲 发表于 06-29 15:28 • 134次
华雁智科变电站远程智能巡视系统解决方案与华为相互完成兼性测试 近日，华雁智能科技（集团）股份有限公司（以下简称“华雁智科”）的变电站远程智能巡视系统解决方案与华为.... 科技绿洲 发表于 06-29 15:21 • 356次
生仝智能科技病理切片智能识别系统获由华为颁发技术认证书 2022年5月，生仝智能科技的病理切片智能识别系统完成了与全场景AI框架昇思MindSpore的兼容.... 科技绿洲 发表于 06-29 15:12 • 162次
AI-Intelligent-Recognition AI智能识物小程序 ./oschina_soft/gitee-AI-Intelligent-Recognition.zi.... 发表于 06-29 15:06 •
华为携手奥看科技推出行业首个低码智能视频使能平台 基于昇腾AI，奥看科技与华为携手，推出行业首个低码智能视频使能平台，并聚焦全场景“大安全”打造了城市.... 科技绿洲 发表于 06-29 15:04 • 248次
捷通华声的智慧社区专家方案可精准高效处理政务服务事项 基于捷通华声数智平台打造的智慧社区专家方案正在为社区服务、社区治理提供数字化、智能化创新体验。 社区.... 科技绿洲 发表于 06-29 14:53 • 381次
基于RISC-V架构的AB32VG1开发板点灯步骤实现 AB32VG1 开发板是以中科蓝讯（Bluetrum）公司推出的基于RISC-V 架构的高配置芯片AB5301A为核心所组成的。板上资源... 发表于 06-29 14:31 • 498次
RK3568J四核高性能AI核心板规格书 采用Rockchip新一代64位处理器RK3568，集成双核心架构GPU以及高效能NPU；最大支持8.... 发表于 06-29 10:24 •
华为云的AI深潜之旅 位于产业核心 历史上，AI技术曾经经历两次寒冬，其原因都在于技术发展与产业需求脱节。自2017年AI技术进入第三次.... 脑极体 发表于 06-29 09:08 • 385次
RISC-V“香山论剑”，技术优势和应用优势在哪里？ 飞外网报道（文/吴子鹏）6月24日，北京开源芯片研究院在B站名下账号开设主题直播，香山论芯第一.... Felix分析 发表于 06-29 07:42 • 457次
【御芯微WIoTa®自组网协议开发套件试用体验】开箱 通讯 御芯微WIoTa开发套件开箱 通讯御芯微自研广域物联网协议WIoTa®开发套件，基于WIoTa AP模组UCM202和I... 发表于 06-28 22:57 • 518次
【泰凌微TLSR9系列开发套件试用体验】+TLSR9518开箱上手 TLSR9518开箱上手 前几天的Embedded World2022上，RISC_V基金会发布了4个新内... 发表于 06-28 22:49 • 497次
【微五科技CF3310开发板试用体验】利用硬件加密功能，搞定串口加密通讯 CF3310开发板是国产首创RISC-V安全微控制器，从官方资料可以了解到其所支持的安全功能：其在硬件上，对加密功能进行了... 发表于 06-28 21:09 • 1993次
Codasip的可定制L31 RISC-V内核荣获Embedded World展会最佳产品大奖 L31处理器内核被《嵌入式计算设计（Embedded Computing Design）》选为处理器.... 发表于 06-28 16:06 • 252次
使用NGC目录中的生产级模型 加速AI开发工作 使用 NGC 目录中的生产级模型，加速 AI 开发工作。 NVIDIA英伟达企业解决方案 发表于 06-28 15:46 • 149次
新思科技DSO.ai可求解空间里搜索优化目标 1956年人工智能（AI）概念被提出时，即使是想象力最丰富的预言家，应该也难以预料到2022年的AI.... 科技绿洲 发表于 06-28 15:15 • 270次
东数西算建设工程助力人工智能产业高质量发展 随着信息技术的不断发展，云计算、移动互联网、大数据、人工智能等技术的快速创新与应用，数字经济已成为全.... 科技绿洲 发表于 06-28 11:52 • 403次
每日推荐 | RTT操作系统移植教程及代码，低压差稳压器提高降压转换器的方法 大家好，以下为飞外推荐每日好帖，欢迎留言点评讨论~推荐理由：TFLM是TensoRFlow Lite for microcontrol... 发表于 06-28 10:20 • 2599次
【沁恒微CH32V307评估板试用体验】 试用报告 互联型RISC-V单片机CH32V307CH32V305/7系列是基于32位RISC-V设计的互联型微控制器，配备了硬件堆栈区、... 发表于 06-28 07:13 • 570次
【中科昊芯Start_DSC28027勇士开发板试用体验】CoreMark跑个分 提起MCU性能测试，最著名的就是CoreMark和Dhrystone。 CoreMark以每秒迭代次数作为性能评价，而Dhrystone的DMIPS... 发表于 06-27 22:10 • 881次
新闻：首尔大学AI团队抄袭震动韩国 QQ出现大规模盗号 新闻：首尔大学AI团队抄袭震动韩国 QQ出现大规模盗号 首尔大学AI团队抄袭震动韩国 难道真的是天下.... 汽车电子技术 发表于 06-27 18:29 • 722次
贸泽开售Seeed Studio reComputer Jetson开发套件助力AI应用开发 2022年6月27日 – 专注于引入新品的全球半导体和电子元器件授权分销商贸泽电子 (Mouser .... 发表于 06-27 17:05 • 183次
商汤AI+卫星遥感影像助力车厂构建财务预测模型 相较于传统金融，绿色金融将环境保护程度与资源有效利用程度作为计量金融活动成效的重要标准，追求金融与.... 科技绿洲 发表于 06-27 16:38 • 675次
中科曙光全面布局智能计算 推出5A级智算中心 以“智能新时代：数字赋能 智赢未来”为主题的第六届世界智能大会在天津拉开帷幕。作为核心信息基础设施领.... 中科曙光 发表于 06-27 16:11 • 183次
华为云推出AI开发生产线ModelArts助力千行百业实现智能升级 AI技术能够辅助生产的规划、预测、决策，帮助提高工作效率，降低生产、管理成本，是经济社会发展的新动能.... 科技绿洲 发表于 06-27 15:45 • 347次
旷视科技基于河图系统实现“群体智能”提高仓储空间利用率 未来，人工智能将呈现两条发展路径：一是如何让物理世界变得更美好，二是如何让人类在虚拟世界里更好地享.... 科技绿洲 发表于 06-27 15:12 • 338次
曙光5A级智算中心加速AI与实体产业的深度融合 6月24日，以“智能新时代：数字赋能 智赢未来”为主题的第六届世界智能大会在天津拉开帷幕。作为核心信.... 科技绿洲 发表于 06-27 15:00 • 382次
疫情中复苏的上海，终于迎来了璀璨的城市夜光。站在外太空视角，遥感卫星影像带我们领略了上海乃至长三角都.... 商汤科技SenseTime 发表于 06-27 14:57 • 155次
6月，新疆昌吉回族自治州工业和信息化局等各部门领导莅临渊亭科技厦门总部参观调研，渊亭科技政企中心总监.... 科技绿洲 发表于 06-27 14:50 • 143次
NVIDIA与合作伙伴利于AI技术推动气候灾害管理 联合国的一个项目使用 NVIDIA 技术和面向全球数据科学家的免费深度学习培训中心课程推动气候灾害管.... NVIDIA英伟达企业解决方案 发表于 06-27 14:23 • 236次
NVIDIA EGX 平台能改进洪水预测GPU 加速模型 为了推动改善气候行动，创造健康的全球环境，NVIDIA 正与联合国卫星中心（UNOSAT）合作，发挥.... 科技绿洲 发表于 06-27 14:21 • 207次
华为DriveONE帮助阿维塔11打造超长续航驾乘体验 今日，搭载DriveONE动力域高压全栈解决方案的阿维塔11在重庆车展正式亮相。长安汽车、华为、宁德.... 科技绿洲 发表于 06-27 10:55 • 841次
2022年6月24日，鸿蒙开发者大赛正式开启报名，其下设Apps UP应用创新赛道自2020年以来已.... 话说科技 发表于 06-27 09:14 • 445次
RISC-V新规发布，防止碎片化并提升设计者效率 飞外网报道（文/吴子鹏）近日，RISC-V International宣布了2022年的首批四.... Felix分析 发表于 06-26 15:24 • 997次
中国AI技术市场规模330.3亿，头部厂商占据主要份额 飞外网报道（文/李弯弯）日前消息，IDC最新发布的行业报告显示，2021年全年中国人工智能软件.... Carol Li 发表于 06-26 15:22 • 1542次
面对AI人才培养产学研鸿沟，昇腾AI如何做厚产业人才黑土地？ 在“新基建”全面推进，5G与AI技术掀起新一轮技术革命浪潮的今天，爆发的数据、算法、算力加速了许多产.... 脑极体 发表于 06-25 20:36 • 854次
INDEMIND RBN10家用机器人AI解决方案的多种技术优势 与大多数电子产品不同，在选购扫地机器人时，由于人们对机器人缺乏了解，而产品的一些较直观的指标参数，如.... 发表于 06-24 17:24 • 514次
Ashling为兆易创新GD32 RISC-V MCU提供高效RiscFree™ C/C++工具链 兆易创新与Ashling联合宣布，兆易创新GD32V系列RISC-V内核通用MCU已与Ashling.... 发表于 06-24 17:06 • 525次
普强信息专注打造最懂客户需要的实时助手产品 普强全新升级实时坐席助手系统，面对企业实际业务场景需要，深度结合企业业务场景，通过深度学习及神经网络.... 普强信息 发表于 06-24 16:25 • 387次
NVIDIA Riva 可提供经过全面优化的流程，用于部署实时 AI 语音应用（例如转录和虚拟助理）.... NVIDIA英伟达企业解决方案 发表于 06-24 15:33 • 149次
从远程问诊，到智能公交，再到智慧教育，随着 5G、云计算、人工智能等技术的飞速发展，如今的乡村也和城.... 旷视MEGVII 发表于 06-24 14:59 • 348次
商汤科技以AI技术助力华侨城集团数字化建设 赋能智慧文旅，商汤AI加码华侨城集团数字化建设。 商汤科技SenseTime 发表于 06-24 14:03 • 933次
旷视用AI为数字乡村建设贡献力量 助力数字乡村快发展 从远程问诊，到智能公交，再到智慧教育，随着 5G、云计算、人工智能等技术的飞速发展，如今的乡村也和城.... 科技绿洲 发表于 06-24 11:05 • 644次
诚迈科技基于机器视觉技术打造一体化工业视觉软件解决方案 智能制造要通过数据和算法，实现网络化智能工厂，使信息在整个供应链上互联互通、生产效率提升、风险降低。.... 科技绿洲 发表于 06-24 10:46 • 570次
BNN 可以检测多达十个 1 秒的关键短语，非常适合通过语音进行 HMI。为了提高检测精度，仅在.... 星星科技指导员 发表于 06-24 10:09 • 584次