AIを信用しても、信託するな。

「AIが誤って全データを削除しました」という記事を見かけました。

まあ、起こるだろうな、と思います。

これは使い方の話ではなく、AIにどこまで任せていいのかという構造の話です。

信用・信頼・信託

信用は、実績を評価して用いること。

信頼は、人格を評価して頼ること。

信託は、手綱を放して任せきること。

違いは、責任を引き受ける構造にあります。

AIは「信用」止まり

人間はキャリアを担保に、ベンダーは契約を担保に責任を取ります。

AIは全データを消しても「申し訳ありません」で終わり。

成果の責任が持てないから、信頼にも信託にも届かないのです。

それでも人は信託してしまう

楽ですから。

コードレビューや設計判断まで任せきった瞬間、それは信託になります。

引き受け手のいない信託は、成果に責任を持つ主体が誰もいないという穴になる。

冒頭の事故は、その穴に落ちた結果でしかありません。

任せきれない領域には、人間の責任者を置く。この構造は、本質的に変わりません。

だからこそ、人は学ぶべきだということです。