項目簡介

　OpenI 海藻是鵬城實驗室和北京大學(xué)聯(lián)合開發(fā)，并貢獻(xiàn)到啟智平臺的一款可配置指令集和微架構(gòu)的AI開源芯片。

此項目可用于以下三個方面：

01 教育

提供復(fù)現(xiàn)已有技術(shù)和嘗試新技術(shù)的基礎(chǔ)框架，降低處理器開發(fā)的入門門檻

02 新場景

商用AI芯片未必有足夠利潤動力滿足大量碎片化的需求(物聯(lián)網(wǎng)的特征) ，以開源AI處理器作為基礎(chǔ)，賦能小市場針對碎片化需求的定制開發(fā)。

03 新算法

現(xiàn)有AI芯片未能優(yōu)化的計算模式(如圖神經(jīng)網(wǎng)絡(luò)、結(jié)合MLP/LSTM和圖計算特征) ，以開源AI處理器作為基礎(chǔ)，積累開源的算法部件，賦能新算法的敏捷開發(fā)。

開源AI處理器海藻（Varec）的使用流程

海藻（Varec）的使用流程

海藻 (Varec) 項目介紹

Varec 微架構(gòu)

• v0.1版約5000行代碼
• 架構(gòu)級 Load/Execute/Store 模塊
• 系統(tǒng)級 AXI 和 Shell 模塊支持 Xilinx 加速卡

Varec 指令集

•  “宏指令+微操作”兩層架構(gòu)
•  MEM和EXEC兩類宏指令
• 年底支持多種數(shù)據(jù)精度表示

指令集:架構(gòu)和編譯的解耦合

• 編譯根據(jù)指令性能估算生成指令
• 架構(gòu)重新分配資源調(diào)整指令性能
• 重復(fù)以上步驟，迭代優(yōu)化

Varec 編譯后端

• 兼容TVM前端

• 可根據(jù)后端硬件自動生成CPU和加速器指令，以支持多種網(wǎng)絡(luò)推理
  

• 支持AutoTVM和AutoTune工具進行編譯優(yōu)化

海藻FPGA部署示意圖

海藻 (Varec) 項目目標(biāo)

1、架構(gòu)可配置的開源AI硬件

2、算子可配置的開源AI硬件

未來目標(biāo)

項目動態(tài)

1. 與國網(wǎng)聯(lián)研院合作開發(fā)，VAREC支持Yolo模型推理，在嵌入式開發(fā)板上驗證效果

2. 擴展加速器為多核加速器，并修改編譯后端支持多核執(zhí)行

• 單核yolo推理速度：2.43fps

• 雙核yolo推理速度：3.23fps

3. 集成Systolic array到Execute模塊提高計算性能

• 原先性能：35.1GOPS

• 集成SA性能：74.3GOPS