AIのモデル崩壊と多様性 (opens in new tab)

モデル崩壊 (model collapse) とは、AI が出力したテキストや画像がインターネットにアップロードされ、それらが AI の訓練データに混入し、そのデータで訓練された AI が出力したものがアップロードされる、というサイクルを繰り返すことで AI の性能が崩壊することです。最も有名な研究は Nature に採択された AI models collapse when trained on recursively generated data（再帰的に生成されたデータで学習させると、AIモデルは崩壊する）[Shumailov+ Nature 2024] でしょう。日本でも理研（当時）の…