生成AIにどれくらい費用が掛かるか把握する
AIモデルをトレーニングしたり、トレーニング完了後にそれに対して推論を実行したりするのにどれくらい費用が掛かるかについては、『 The Next Platform』誌の運営に携わっていることもあってか、ある程度、見当は付きます。しかし、生成AI機能をアプリケーションに追加するのにどれくらい費用が掛かるかについては、何らかの手掛かりになりそうなデータに接したことはほぼありませんでした。
しかし、興味深いことに、Gartner社のアナリストが、そのようなデータをあるレポートに埋め込んでくれています。そのレポートは、2025年末までに、多くの生成AIプロジェクトが、PoC（概念実証実験）が失敗した後に断念されることを予測しているレポートです。多くのPoCが失敗するだろうことは、私たちにとっては驚きではありません（レポートの予測では、プロジェクトの30%が失敗に終わるということです）。これは、革新的なITプロジェクトではよくあることです。現在、私たちが目の当たりにしている尋常でないハイプ サイクルを考えると、むしろ、50%（またはそれ以上）でないことが驚きです。
Gartner社によれば、これらの生成AIプロジェクトは多くの理由で失敗に終わるということです。データの品質の低さ、適切なリスク管理の欠如、コストの高騰、および不明確なビジネス価値が大きな理由として挙げられているようです。
「昨年の大熱狂の後、企業幹部は生成AI投資からの見返りはまだかとしびれを切らしていますが、組織は価値を証明し実現するのに苦戦しています」と、レポートをまとめたGartner社のRita Sallam氏（ディスティングイッシュト バイス プレジデント アナリスト）は説明しています。「構想の範囲が広がるにつれ、生成AIモデルを開発および展開する財務上の負担は、ますます重く感じられるようになっています。」
これらの生成AIプロジェクトを行うための資金調達は大きな障壁です。だからこそGartner社は、生成AIプロジェクトに掛かる金額を図に示しているというわけです。では、その図を見てみましょう。
ご覧の通り、コード アシスタントは比較的低コストのようです。そのため、多くの組織はここから生成AIの第一歩を踏み出すものと思われます。IBMは、現在、RPGコーディング アシスタントの開発に取り組んでおり、アプリケーション モダナイゼーションの領域で、他にもそれを試してみようとするものが現れるのではないかと思います。そこそこ良質なRPGコードを生成できるモデルをトレーニングするためのRPGコードを入手することは、大変なことかもしれません。そうするには、大量のコードが必要となります。しかし、IBM i のショップは、結局、開発されるとしたら、まずはJava向けのコード アシスタントを使用することになるかもしれません。IBMは、メインフレームCOBOLをJavaへ変換するためのコード アシスタント製品にも取り組んでいますが、ゼロからJavaを生成するためのものではありません。
典型的な顧客の場合で、プログラミング ツールチェーンへの追加で、20万ドル掛かることもあるようです。高額に思えるかもしれませんが、上の表から見て取れるように、他の生成AIプロジェクトでは数百万ドル掛かり、さらに、保守に1ユーザー当たり年額で数千ドルから数万ドル掛かるようです。言うまでもなく、上述のプロジェクトの便益は、生成AIの実装およびアプリケーションのアドオンの費用を上回る必要があります。
生成AI機能にどれくらい費用が掛かるか割り出すのが大変だとしたら、生成AIプロジェクトが費用の節減や収益の押し上げに対して、または単にワークフローの改善や簡素化に対してどのような影響を及ぼすかを割り出すのはさらに難しいと思われます。どの企業も、前もって、さらに言えば生成AIのPoCを行う前に、それを把握しようとしなければならなくなります。そのため、目指すべき、そして現実を評価するための尺度となる目標を持つ必要があるわけです。たとえ生成AIプロジェクトの70%は「成功する」（文字通りに技術的な意味で失敗しない）としても、だからと言って、それらのプロジェクトを実施する企業に、経済的に利益がもたらされるわけではありません。
これは、インターネット上にバーチャル店舗やWebページを設置することほど、分かりやすくはありません。とは言え、おそらく1990年代末の頃は、インターネットも、現在そう感じられるほど分かりやすくはありませんでしたが。
