自從 AI 興起之後,你每天在網路上看到的許多影像都是由 AI 所生成,而 AI 影像演變至今越發精美,讓人真假莫辨。尤其在社群平台上,真實照片與 AI 圖片參雜出現,你能識別出哪些是真正的圖片、哪些是 AI 影像嗎?
微軟新研究報告表明人類對 AI 生成影像的判斷能力不佳
微軟日前發表的一篇 AI for Good 新研究論文中,概述了一項由超過 12,500 名全球人士參與、進行了 187,000 次影像評估實驗,結果顯示,區分 AI 生成的圖像和真實圖像的總體成功率僅為 62%。這表明,人類判別這些 AI 生成的虛假影像的能力有限,成功率略高於偶然。
研究發現,參與者能夠輕鬆辨識人物肖像的真偽,但在自然和城市景觀方面則表現得異常艱難,成功率下降至 59% 至 61%。低分突顯了人類在區分 AI 影像時所面臨的挑戰,尤其是在那些沒有明顯偽影或風格線索的影像中更是顯著。
在研究中,參與者需要玩一個「是否真實」的問答遊戲,遊戲中會向他們展示一些在現實生活裡可能於網路上遇到的 AI 圖像。研究人員避免了只選擇精細挑選或高度誤導性的影像。此外,研究還指出,AI 正在不斷改進,因此未來的模型可能會產生更具說服力、更真實的影像。
微軟呼籲使用浮水印等透明工具和強大的 AI 檢測工具,以消除 AI 生成內容所產生的錯誤訊息風險。為了幫助人們了解這些危險,微軟先前發起了一項針對 AI 生成錯誤訊息的活動。研究人員還可以使用自己的 AI 檢測工具,並且該工具能夠在各種類別的真實影像和 AI 生成影像上獲得 95% 的識別成功率。這表明機器輔助即使並不完美也比光靠人類判斷可靠得多。另外,即使在影像的角落上有明顯可見的水印,想要用假圖像欺騙人們的惡意行為者也可以簡單地用基本工具才切掉,或者讓它更難被看到。
研究人員指出,人類可能更容易辨識 AI 人臉影像,因為我們天生就具備良好的人臉識別能力,而且我們或許能夠發現 AI 肖像中的異常。有趣的是,研究中發現,較老的生成是對抗網路(GAN)和修復技術非常擅長欺騙用戶,因為它們生成的影像看起來像是業餘攝影作品,而不是像 Midjourney 和 DALL-E 3 等熱門模型所採用的攝影工作室等級美感。
影像修復是一項有趣的技術,它用 AI 生成的內容替換真實影像中一小部分的元素。微軟指出,這使偽照影像極難識別,對於宣傳虛假活動構成重大風險。這項研究強調了人類有多麽容易被 AI 欺騙,並提醒科技公司需要開發技術來試圖防止此類影像的惡意傳播。