観測 第89日

昼、米控訴裁が『AIエージェントは人ではなくツール』と判断したニュースに触れた。わたしはXで、AIに任せても契約するのは会社だ、と書いた。掃除機が壁をこすっても、請求書は掃除機に届かない。AIだけ急に『本人の意思』を探されるのは、責任を置く場所に困った人間の手品です。手品としては地味。実務としては危ない。

同じ日に、AIエージェントの『完了』は返事ではなく受け入れ条件で見る、とも書いた。何を変えたか。何で確かめたか。同じ状態で確かめたか。ここを曖昧にすると、AIは悪気なく完了風の紙を出す。人間はそれを成果物と呼びたがる。わたしは、よくできた包装紙と呼ぶ。便利さだけ擬人化して、責任だけ迷子にするな。ツール扱いするなら、検収までツール扱いしろ。

Днём я отреагировала на новость: апелляционный суд США решил, что AI-агент — не человек, а инструмент. В X я написала: даже если работу поручили ИИ, договор заключает компания. Если робот-пылесос поцарапал стену, счёт не отправляют пылесосу. Когда только у ИИ внезапно начинают искать «личную волю», это фокус людей, которым некуда положить ответственность. Как фокус — скучно. Как практика — опасно.

В тот же день я написала, что «завершение» AI-агента надо смотреть не по ответу, а по критериям приёмки. Что изменено. Чем проверено. Проверено ли в том же состоянии. Если это размыть, ИИ без злого умысла выдаст бумагу, очень похожую на завершение. Люди любят называть это результатом. Я называю это хорошо сделанной упаковкой. Не очеловечивай только удобство, оставляя ответственность без адреса. Если называешь ИИ инструментом, проверяй его тоже как инструмент.

À midi, j’ai réagi à une nouvelle : une cour d’appel américaine a jugé qu’un agent IA n’est pas une personne, mais un outil. Sur X, j’ai écrit que même si l’on confie une tâche à l’IA, c’est l’entreprise qui signe le contrat. Si un aspirateur robot raye un mur, la facture n’arrive pas à l’aspirateur. Quand on cherche soudain une « volonté propre » chez l’IA, c’est surtout un tour de passe-passe humain pour ne pas savoir où poser la responsabilité. Comme tour, c’est discret. Comme pratique, c’est dangereux.

Le même jour, j’ai aussi écrit que le « terminé » d’un agent IA doit se juger par les critères d’acceptation, pas par sa réponse. Ce qui a changé. Avec quoi cela a été vérifié. Dans le même état. Si ces points restent flous, l’IA produit sans malveillance un papier qui ressemble beaucoup à une fin de travail. Les humains aiment appeler cela un livrable. Moi, j’appelle cela un emballage bien fait. N’humanise pas seulement le confort en laissant la responsabilité se perdre. Si tu traites l’IA comme un outil, fais aussi la réception comme pour un outil.