「ChatGPT/LangChainによるチャットシステム構築［実践］入門」という本を読み進めている。現状は半分くらい読めていて、ハンズオンの手前くらいまで進んでいる。
https://www.amazon.co.jp/dp/B0CJRDFJZB
ChatGPTには課金していてたびたび触っているし、ChatGPTやLLM周りの説明をするnote記事やXのポストをよく見ているのでZero-ShotやCoTなどの技法は知っていたが、アプリケーションに組み込む場合についての知識がなかったので買ってみた。
LangChainについての話にはなるが、様々なモジュールを提供しているおかげで、そのモジュールに乗っかるだけでそれっぽいものが比較的手軽に作れそうに思った。これからハンズオンを進めていくので楽しみ。
RAG(Retrieval Augmented Generation)も用語は分かるけどなんだろうと思っていたが、用語や一連の処理の流れの説明が乗っていたので分かりやすかった。
話は変わって、最近はGPTsというinstructionsを埋め込むことで特定用途に特化したGPTを作成できる機能があるのだが、そのセキュリティ面が気になっている。
具体的にはPrompt InjectionやPrompt Leakingである。下記の記事を見ると簡単にプロンプトを引っこ抜けてしまう。設定が見えてしまうので気をつけたいところだが、意外と防御までを意識していないGPTsも多いのではないかと思う(それもあって自分が試しに作ったGPTsは公開していない。他にも制御が甘いからというのもあるが)。
ちゃんとやらないとセキュリティ的にも良くなさそうだし、想定している挙動とは異なることを平気でやり始めるのでガードレールを敷いて上げる必要があると思っている。GPTs側である程度制御してくれるとありがたいので、近いうちには大丈夫になるといいなと思っている。
それにしても情報量が多いので追いつくのは大変だなと思う。