NorthPoleの紹介：脳に着想を得たチップデザインで、低電力でのAI推論が可能に

研究者らが紹介しているNorthPoleは、脳に着想を得たチップ・アーキテクチャーであり、低エネルギー消費で効率的にデータを処理するために、演算部をメモリと一体化している。コンピューティングはその誕生以来、プロセッサーを中心に据え、メモリを演算部から分離してきた。しかし、大量のデータをメモリと演算部間でやり取りすることは、エネルギー消費量の観点からも処理能力や処理速度の観点からも、代償が大きい。これは特に、顔認証や物体検出、行動監視など、膨大なデータへの高速アクセスが必要となる、新興の高度なリアルタイム人工知能（AI）アプリケーションの場合に顕著である。結果として、現代のほとんどのコンピューター・アーキテクチャーは、物理的および処理上のボトルネックに急速に達しつつあり、さらにこれに関わるエネルギー消費の増大を考えると、経済的・技術的・環境的に持続不可能なものになるリスクがある。生物の脳の神経構造にインスピレーションを受け、Dharmendra ModhaらはNorthPoleを開発した。これは、1つのチップ上で演算部とメモリをより合わせたニューラル推論アーキテクチャーである。著者らによると、NorthPoleでは脳に着想を得たコンピューティングと半導体技術を融合させることにより「演算部とメモリの相互作用を再構築している」。より高度な技術プロセスを用いているものも含めて他の同等のアーキテクチャーに比べ、NorthPoleはより高い性能、エネルギー効率および面積効率を達成している。また、NorthPoleはデジタルシステムであるため、アナログシステムで問題となるデバイスノイズやシステムのバイアスおよびドリフトの影響を受けない。Modhaらは、NorthPoleの能力をResNet50ベンチマーク画像分類ネットワークでテストして実証している。これによりNorthPoleは同等の技術と比較して、エネルギー指標である1ワットあたりのフレーム毎秒（FPS）は25倍、空間指標である1トランジスタあたりのFPSは5倍、時間指標である待ち時間は22分の1を達成した。関連するPerspectiveで、Subramanian IyerとVwani Roychowdhuryは、NorthPoleの進展と限界について詳細に論じている。