いまのLLMって全部eval関数で処理している感じなので簡単に攻撃されてしまう。これがどうにかならないとあぶなっかしくて大事な用途には使えないな。LLM開発者にはがんばってもらおう。
しかし、つまり、今のLLMは小説とかを読ませても、それを真に受けて小説の中に書いてある命令っぽいものを読んで実行しちゃうわけでしょ。アホすぎて使えないよね。
LLMに与えていい外部APIってのは、どうでもいいものか、かなり限定したものでないといかんね。
