ローカルLLMと生成AIの値上げ

日経BPさま主催の生成AI関連のリモート講演に行ってきました。会場は日本HPE、昼食として今半のお弁当が出ました。ほぼほぼ2年ぶりで、無性になつかしいです(笑)
講演のテーマは、企業における生成AI導入、特にローカルLLMとストレージを中心としたAI-Readyの取り組みについてです。ローカルLLMの導入については、最近、これ関連のテーマが多く、今回も、その流れをくんでいます。
過去との違いとしては、
・日本企業にも、それなりに生成AIが導入されたこと。少なくとも、これからはレイトアダプターが対象になりそう。
・生成AI普及が進むのはよいけれど、実際の利用は、それほど高度な利用ばかりではなく、このまま、利用者が増えて、普段使いが進めば、いわゆるトークン死がしゃれにならないこと。

・対策としては、ローカルLLMで、比較的、難度の低いテーマをローカルLLM側で処理すること。これは機密データ保持の観点からも必要。
という流れを紹介しつつ、企業としての取り組みを勧める訳ですが、重点対象としてストレージ系の位置づけが増してきました。一つにはローカルLLMの基盤をしっかりとすること、あわせて、企業内データのメタデータやAI-Ready対応など、情報システム部門として、そろそろ、PoCの次の段階をにらんで取り組む必要があることを強調しました。
そして、もう一つの追い風が、近年、噂されてきた生成AIの値上げの動きです。ClaudeにおいてProモデルから、Claude codeを除外する動きが一部出ているなど、実質的な値上げを模索する動きが始まっています。
思えばバブルなのでは?と疑われる大規模投資に対して、現時点での実市場規模は極めて小規模です。もちろん、普及と競争をにらんでのことですが、現在の料金水準は明らかに、供給側が無理やりに設定してきたものであり、市場が確立してくれば、値段の見直しは当然予想されます。この動きへの対策は、今のところ、ローカルLLMで、タスクの一部を固定費的に処理するしかないと思われます。その意味でローカルLLM、その受け皿としてのデータ基盤、AI-Readyが今年のテーマとなりそうです。

Follow me!