10 月 25 日消息，AI 大模型訓(xùn)練數(shù)據(jù)源版權(quán)問題一直是一個令業(yè)界頭疼的問題，日前有黑客展示了一款名為 Nightshade 的工具，該工具可在不破壞觀感的情況下輕微修改圖片，若有 AI 模型在訓(xùn)練時運(yùn)用了這些被“下毒”的圖片，模型生圖結(jié)果便會被破壞。

▲ 圖源 Arxiv

同時發(fā)現(xiàn)，黑客聲稱，經(jīng)過 Nightshade 工具“下毒”的圖片難以辨別，因?yàn)樵摴ぞ咧饕绊懹?xùn)練數(shù)據(jù)集的“特色空間”。

 

Nightshade 是屬于內(nèi)容創(chuàng)作者及持有者的工具，是對待‘不尊重版權(quán)聲明’、或‘故意繞過 do-not-scrape / crawl opt-out’的 AI 從業(yè)者的富強(qiáng)武器。