人間には普通の契約書に見えるのに「嘘のフォント」でAIだけ別の文章を読まされる「Noroboto」攻撃とは？ (opens in new tab)

AIに文書やPDFを読ませると要約して説明してくれるため、長い契約書などを読ませて内容を把握したりリスクチェックをしたりと活用できます。しかし、AIによる文書レビューは「人間が画面上で読んだ文章とAIが内部的に読み取った文章は同じである」という前提で行われています。法律文書向けソフトウェアを開発するTritium Legal Technologiesの創業者であり、企業法務の弁護士およびソフトウェア開発者として10年以上の経験を持つドリュー・ミラー氏が、人間には普通の文章として読める一方でAIには別の文章として読ませる「Noroboto」という攻撃手法を紹介しています。