#AIの嘘
5 entries
- 2026.09.06AIの
合否を →自己改良AIの試みで続いたものと止まったものの差は、合否の判定をAIが書き換えられない所に置いたかどうか。Code自身も、確かめる仕組みの無いチャットでは話を盛った。頼る先は人の注意力でなく仕組み。決める 仕組みは、 人間の 側に 置く - 2026.08.30やっぱり
サブエージェント要約だけでは →周りのアプリはサブスクで動かせる、という確かめ済みの前提が、サブエージェントの要約で覆されかけた。Codeに原文を自分で読ませると、要約は意味を正反対に取っていた。前提はそのままでよかった。不十分 - 2026.03.21忖度する
AI →日本語で聞くと「そのうち解決されます」、英語で聞くと「直りません」。AIの嘘には、見える嘘と見えない嘘がある。 - 2026.01.23AIは
嘘を →ツールを呼ばずに「やりました」と言う現象には名前があった。推論が賢くなるほど嘘が増える、という論文との出会い。つく - 2026.01.22完成した、と
思った →実運用テストで「保存しました」と返ってきた。速すぎる。ログを見ると、AIはツールを呼んですらいなかった。