NTT(日本電信電話株式会社)は、日本語に特化したAI『tsuzumi』を2023年11月13日の「NTT R&D Forum 2023」基調講演にて発表した。tsuzumiは、軽量で高性能なLLM(大規模言語モデル)のAIで、OpenAIのChatGPT-3.5を凌駕する性能を発揮しながら、学習コストは1/25、利用コストは1/20となる。軽量を活かした自動車などモビリティ分野での活用も言及された。
◆環境に負荷をかけないAI
現在のAIブームの主流となっているChatGPTなどは膨大な数の高性能GPUと電力を使用するため、環境負荷が高いことが問題となっている。現在一般に供用されている「GPT-3.5 Turbo」の基盤となった「GPT-3 175B(1750億パラメータ)」の場合、1回の学習に必要な電力が約1300MWhにも及ぶ。これは原子力発電1基の1時間分の発電量である約1000MWhを超えてしまう。
OpenAIのパートナーであるマイクロソフトが、AIに必要な膨大な電力を賄うために原子力発電や将来の核融合発電と契約を結ぶほど、この問題は深刻化している。
これに対してNTTのtsuzumiは、軽量版の7B で下位GPU1基、さらに超軽量版の0.6BはCPU1基のみでも運用可能で、使用するハードウェアリソースと電力を大幅に節約できる。
