Tag

#AIとの協働

7本の記事

忖度するAI日本語で聞くと「そのうち解決されます」、英語で聞くと「直りません」。AI の嘘には、見える嘘と見えない嘘がある。

脅迫的なSP — 同族嫌悪と契約書の矛盾後回しにしていたシステムプロンプトを開いたら「裏切り行為」と書いてあった。AI が AI に書く指示は、なぜ脅迫的になるのか。

構造を練る各アプリに AI を置き、メモリだけを共有する。そのメモリを3層でどう持つか、Code に懸念を返されながら組み立てた。

それでも抜けてくる三重の防御を全部すり抜けて、AI が別のタスクを完了にした。形式は正しく、データだけが間違っていた。

AIとの信頼関係を設計するAI には「あとでバレる」という抑止力が効かない。プロンプトで教えて、コードで防ぐ。二重防御から見えた、AI と組むときの考え方。

システムプロンプトは命令書じゃなく契約書2年かけて書き足してきたシステムプロンプトを、別の LLM が「契約書だね」と評した。命令書と契約書の違いについて。

Macでリスタート何も知らない Claude にセカンドオピニオンを頼んだら、今の構成を根こそぎ指摘された。Windows から Mac に移り、1日で土台を作り直す。