こんにちは。AI noob 芦刈です。
今回は時代のビックウェーブとして我々を飲み込もうとするAIという一大分野について、どのように向き合っていくか話したいと思います。
生成AIの台頭とよくある疑問
時は今、第4次AIブーム。
つい10年ほど前のディープラーニング流行とは異なり、生成AIはより簡便かつ直感的に利用可能な技術として一般に普及しました。
始まりは2017年の論文「Attention is All you Need」で提唱されたTransformerモデル。
Transformerモデルは単なる機械翻訳のための技術に留まらず、これまでのNLPのボトルネックをぶち壊しました。
翌年にはword2vecはBERT系のモデルに、seq2seqはGPT系のモデルへと進化。気づけば大規模言語モデル（LLM）という言葉が出来上がっていました。
2023年には皆さんもよく知るGeminiやChatGPTなどのマルチモーダルAIが登場し、ディープラーニング流行時代から機械学習で長らく主役だった機械翻訳はいつの間にか単なる1機能となっておりました。
ここまでの流れが、たった6,7年ぽっちで起こったのです。
まさに激動の時代ですよね。
「AIに仕事を奪われる」とまではいかないものの、「AI（を使いこなせないばかり）に仕事を奪われる」がいよいよ目前に迫ってきたように感じます。
そこで、一般オールドタイプエンジニアおじさんであるところの私は思うわけです。
「それで、何を学んで取り入れていけばいいの...？」と。
生成AIの業務利用と得られる答え
「『最近流行りの生成AIを使って業務効率化する仕組みを作ってくれ』と言われたら、あなたはどのように達成しますか？」
そう問われた場合、エンジニアじゃなければ下記のような答えが挙がってくると思います。
- プロンプトを自作する。
- 業務に関するファイルをAIが参照できるようにする。
- JSONLデータを読み込ませてファインチューニングをする。
これらをエンジニアとして言語化すると、下記になります。
- プロンプト生成によるインコンテキスト学習でタスクに対する推論パターンの最適化を行う。
- RAG（検索拡張生成）を利用して、モデルの出力を最適化する。
- ファインチューニングによりパラメータの最適化を行う。
聞き覚えのあることばが出てきましたね。
「何を学んで取り入れていけばいいのか」、その答えは「機械学習」です。
「いやいや、とはいえそんな莫大な範囲の知識は不要なのではないか」、「今後も続く生成AIのバージョンアップでの最適化と精度の向上を待てばいいのではないか」と思われる方も当然いらっしゃると思います。
しかしながら、これまでのような大量の学習データによる生成AIの性能向上は既に限界が近いと言われており、ここ数年のような飛躍的な性能向上は難しいと考えられます。
原因は学習データの枯渇ですね。学習データとして堪えうるレベルのものが2032年には無くなると予測されています。
わかりやすく極端な例えをすると、Web掲示板の書込みのようなしょーもないデータしか残らないということですね。低レベルな学習データにより起こったMicrosoft のTayの悲劇は覚えていらっしゃる方も多いと思います。
上記を踏まえると、生成AIの性能のボトムアップで業務に利用するプロンプトの推測・回答の精度向上を見込むのは無理がありそうです。
また、企業利用としても予測・分析のフェーズをBigQuery ML等に任せて生成AIと切り離し、生成AIの利用は予測・分析結果の図示や文章化、もしくはユーザインタフェースとしての利用にとどめるケースも増えているようです。
具体的には株式会社ZOZOやライオン株式会社などがそうですね。
結局のところ業務効率化を進めるには、独自の追加・強化学習によるパラメータの最適化や、適切なモデル選択が必要ということなのでしょう。
BigQueryの利用も元々はビッグデータのビジネス利用という流行が下地にあったことを考えると納得ですし、売上分析のようなものをしたい場合は生成AIのモデルを利用するまでもなく、線形回帰のようなレガシーな機械学習のモデルを使った方が有効であるということなのかもしれません。
長々と書きましたが、つまりは機械学習からは逃げられないということです。
以前データ分析の記事を書いてから進歩はありませんが、私もついに向き合う時が来たようです。
そうだ、Kaggleをやってみよう
世界最大級のデータサイエンス・機械学習プラットフォームといえば？
そう、Kaggleですね。
Kaggleでいい成績を残しても実務との乖離が酷くて役に立たない、なんて言われていたのは今は昔。
2017年ごろで100万人、2022年時点で1000万人と変遷したユーザ数は今年で3000万人を超えたようです。
やはり世間的にも機械学習への関心が高まっており、Kaggle自体もプラットフォームとしてエンジニアからの支持を集めているのでしょう。
昔は原子間結合と電気的相互作用のようなコンペを見てうげぇと思っていましたが、最近だとポケモンカードのAIエージェント構築のようなポップでキャッチーなコンペも出ているようです。 www.kaggle.com
機械学習から逃げられないと分かった今、このAI隆盛時代と向き合うためにもぜひ触ってみてください。 私もまだいわゆるチュートリアルと呼ばれているタイタニックコンペを軽く触った程度ですが、これからいろいろと手を出してみようと思います。
