カーナビが人に寄り添う未来を作る? NTTの日本語特化・超軽量AI「tsuzumi」とは

NTTのtsuzumiは、既存の大規模LLM AIに対して大幅なコストダウンを可能にする。
  • NTTのtsuzumiは、既存の大規模LLM AIに対して大幅なコストダウンを可能にする。
  • 2024年3月からtsuzumiの商用サービスがスタート。
  • tsuzumiの4つの特徴。
  • tsuzumiには軽量版の7Bと超軽量版の0.6Bがある。
  • tsuzumiの学習コストはGPT-3に対して軽量版で1/25。超軽量版では1/300となる。
  • 超軽量版tsuzumiはCPU1基でも動作する点が大きな利点。
  • tsuzumiは日本語性能ではGPT-3.5 Turboを上回る。
  • tsuzumiの英語性能はMeta社のLlama2に匹敵。

NTT(日本電信電話株式会社)は、日本語に特化したAI『tsuzumi』を2023年11月13日の「NTT R&D Forum 2023」基調講演にて発表した。tsuzumiは、軽量で高性能なLLM(大規模言語モデル)のAIで、OpenAIのChatGPT-3.5を凌駕する性能を発揮しながら、学習コストは1/25、利用コストは1/20となる。軽量を活かした自動車などモビリティ分野での活用も言及された。

◆環境に負荷をかけないAI

現在のAIブームの主流となっているChatGPTなどは膨大な数の高性能GPUと電力を使用するため、環境負荷が高いことが問題となっている。現在一般に供用されている「GPT-3.5 Turbo」の基盤となった「GPT-3 175B(1750億パラメータ)」の場合、1回の学習に必要な電力が約1300MWhにも及ぶ。これは原子力発電1基の1時間分の発電量である約1000MWhを超えてしまう。

OpenAIのパートナーであるマイクロソフトが、AIに必要な膨大な電力を賄うために原子力発電や将来の核融合発電と契約を結ぶほど、この問題は深刻化している。

これに対してNTTのtsuzumiは、軽量版の7B で下位GPU1基、さらに超軽量版の0.6BはCPU1基のみでも運用可能で、使用するハードウェアリソースと電力を大幅に節約できる。


《根岸智幸》

編集者、ライター、メディアコンサルタント、ソフトウェアエンジニア 根岸智幸

ITと出版とオタクの何でも屋。グルメや女性誌や芸能やBLマンガもやりました。キャンギャルやコンパニオンの写真も撮ったりします。 ・インターネットアスキー編集長(1997-1999) ・アスキーPC Explorer編集長(2002-2004) ・東京グルメ/ライブドアグルメ企画開発運営(2000-2008) ・本が好き!企画開発運営(2008-2013) ・BWインディーズ企画運営(2015-2017) ・Webメディア運営&グロース(2017-) 【著書】 ・Twitter使いこなし術(2010) ・facebook使いこなし術(2011) ・ほんの1秒もムダなく片づく情報整理術の教科書(2015) など

+ 続きを読む

編集部おすすめのニュース

特集