AI画像「Nightshade」AI学習反撃ツールが登場！学習元の画像を「Poison化」画像生成AIに毒画像を学習させて出力阻止する新手法！
masa1208AI画像「Nightshade」AI学習反撃ツールが登場！学習元の画像を「Poison化」画像生成AIに毒画像を学習させて出力阻止する新手法！
1: 名無しのメタバースさん 0000/00/00(※) 00:00:00.00 ID:metaversesoku
画像生成AIに対する新たな防御ツール、Nightshade。記事の内容通りならメチャクチャ凄いぞこれ！！
・わずか100枚の”毒入り”画像を学習させるだけでSDXLの出力がほぼ完全に崩壊する
・毒は伝播する。例えば毒入りの「犬」を学習させると「ハスキー」や「狼」の出力も崩壊する
Glazeへの統合が楽しみだ https://t.co/BwFPvx7FPR pic.twitter.com/uKgeJYybvN— mirium (@numatakeja) October 24, 2023
