NVIDIA、Intel、ARM が AI の未来を FP8 に賭ける、8 ビット FP のホワイトペーパーを公開

テクノロジとAIの3つの主要企業であるArm、Intel、およびNVIDIAが協力して、まったく新しいFP8または8ビット浮動小数点標準を標準化しました。両社は、人工知能(AI)の推論とトレーニングの両方で機能する標準的な交換可能な配置を提供するために、8ビット浮動小数点仕様の概念と対応するバリエーション(E5M2およびE4M3のバリエーションを持つFP8と呼ばれる)を説明する新しいホワイトペーパーを公開しました。

NVIDIA、ARM、Intelは、将来のAIの取り組みのためにFP8の「8ビット浮動小数点」に注視

理論的には、これら3つのテクノロジの企業で業界をまたがるこの新しい仕様の調整により、AIモデルがハードウェアプラットフォーム全体で動作および機能することが可能になり、AIソフトウェアの開発が加速されます。

人工知能のイノベーションは、ソフトウェアとハ​​ードウェアの両方で、技術が進歩できるように十分な計算スループットを生み出すためにますます必要になっています。AI計算の要件は、ここ数年で増加していますが、前年よりも増加しています。コンピューティングギャップに対処する上でかなりの重要性を獲得しているAI研究の分野の1つは、ディープラーニングにおける数値精度の要件を減らし、メモリと計算効率の両方を改善することです。

Intelは、プロセッサ、グラフィックカード、多数のAIアクセラレータをカバーするロードマップ全体でAIフォーマットの仕様を支持する予定です。同社は、1つのアクセラレータ、Habana Gaudiディープラーニングアクセラレータに取り組んでいます。精度の低い方法の可能性により、コンピューティング効率の向上に重点を置いたディープラーニングニューラルネットワークに固有のノイズ耐性特性を発見することができます。

新しいFP8仕様は、現在のIEEE754浮動小数点形式からの逸脱を減らし、ソフトウェアとハ​​ードウェアの間で快適なレベルを保ち、現在のAI実装を活用し、採用を加速し、開発者の生産性を高めます。

この論文は、Intel、Arm、およびNVIDIA間のIEEE標準化に基づいて構築されたアルゴリズム、概念、または規則を活用するための原則に資金を提供します。すべての企業間でより一貫した基準を持つことで、業界の現在の慣習を維持しながら、将来のAIイノベーションに最も大きな自由度を与えることができます。

(Source:wccftech)

関連記事



*
*
* (公開されません)