ハルシネーションを起こさないで
ハルシネーションを起こさないで
はるちゃんという
おばあちゃんに
ハルシネーションというあだ名をつけて
寝かして置いてあげて
という話ではなく
生成AI界隈で言われる
誤情報の生成
を
ハルシネーション
といいます
いわゆるAIが
ウソ教えてくる
ということです
そこで
生成AIを使っていくときに
ワタシたちとしては
ハルシネーション
起こしてほしくないわけです。
そんな中
かの有名なApple社が
どんな対策をしているか
教えてもらいました
命令文（プロンプト）に
ハルシネーションを起こさないで
と入力する
だそうです
たしかに
裏付けがある内容しか生成しない
というルールにしてしまえば
予測や仮設、想像部分はカットされますもんね
天使と悪魔問題みたいやな
天国と地獄に続く2本の道への
分かれ道
誰かが立っていて
その人に
1つだけ質問して
天国への道を当てるというもの
分かれ道で立っているのは
天使か悪魔で
天使は本当のコト
悪魔はウソ
を必ずつきます。
さて
アナタはなんと質問したら良いでしょう？
答えは
アナタはどちらから来ましたか？
アナタはどちら出身ですか？
といったものです。
天使なら天国を
悪魔なら、ウソをつくので、やはり天国を
教えてくれるので
言われた方に進めばよい
というものです。
プログラミング
行動指針（クレド）
経営理念
などは
1つの言葉で
自分たちの進むべき道を示す必要があるので
とっても難しいですよね
