人工智能正制造網(wǎng)絡(luò)垃圾：低質(zhì)量AI生成網(wǎng)站獲廣告支撐迅猛發(fā)展_全球今日報

澎湃新聞記者 方曉

(資料圖片僅供參考)

新聞網(wǎng)站評級工具NewsGuard發(fā)布2023年6月的錯誤信息監(jiān)控結(jié)果，稱141個品牌正在向低質(zhì)量的人工智能（AI）生成的網(wǎng)站提供廣告收入，來支持這些不可靠網(wǎng)站的發(fā)展。

這些網(wǎng)站在幾乎沒有人監(jiān)督的情況下運行，每天平均生成上千條文章，其中包括錯誤信息，特別是誤導用戶的醫(yī)療健康信息。

科技媒體The Verge稱，人工智能正在扼殺舊網(wǎng)絡(luò)，而新網(wǎng)絡(luò)正在掙扎著誕生，“生成式人工智能模型正在改變網(wǎng)絡(luò)經(jīng)濟，使生成低質(zhì)量內(nèi)容變得更便宜。我們才剛剛開始看到這些變化的影響?！?/p>

發(fā)現(xiàn)217個不可靠的AI生成新聞和信息網(wǎng)站

NewsGuard分析發(fā)現(xiàn)，發(fā)布在AI生成內(nèi)容網(wǎng)站上的廣告似乎是以編程方式生成的，這意味著公司不是選擇將其廣告投放在這些網(wǎng)站上，而是通過投放廣告的系統(tǒng)自動定位。大多數(shù)廣告是由谷歌的工具投放的。?

NewsGuard將不可靠的AI生成新聞和信息網(wǎng)站（UAIN）定義為，在很少或沒有人類監(jiān)督的情況下運行的網(wǎng)站，并發(fā)布主要或完全由機器人撰寫的文章。就在上個月，NewsGuard分析師將新推出的UAIN網(wǎng)站跟蹤器上的網(wǎng)站數(shù)量從49個更新為217個。?

盡管許多廣告商及其廣告代理商維護著“品牌不安全”網(wǎng)站的“排除列表”，但這些列表往往沒有保持最新狀態(tài)，顯然沒有跟上UAIN網(wǎng)站激增的步伐。?

2023年5月和6月，NewsGuard分析師確定了來自141個主要品牌的393個程序化廣告（programmatic ad，利用技術(shù)手段實現(xiàn)數(shù)字廣告購買和銷售的過程），這些廣告出現(xiàn)在NewsGuard確定的217個UAIN網(wǎng)站中的55個上。NewsGuard發(fā)現(xiàn)的廣告，提供給了美國、德國、法國和意大利四個國家的互聯(lián)網(wǎng)分析師。?

一家運動服裝公司的廣告出現(xiàn)在NoticiasDeEmprego.com.br網(wǎng)站上，這是一家UAIN網(wǎng)站，發(fā)布由人工智能生成的關(guān)于巴西工作機會的新聞。NewsGuard用一個黑塊屏蔽了這個程序化廣告。

NewsGuard沒有點名提供這些廣告的公司，它們包括各種各樣的藍籌廣告商：6家大型銀行和金融服務(wù)公司、4家豪華百貨公司、3家運動服裝領(lǐng)先品牌、3家電器制造商、兩家世界上最大的消費技術(shù)公司、兩家全球電子商務(wù)公司、兩家美國頂級寬帶提供商、美國廣播網(wǎng)絡(luò)提供的3家流媒體服務(wù)、一個硅谷數(shù)字平臺和一家歐洲大型連鎖超市。?

程序化廣告使用算法和高級拍賣流程，直接向個人用戶而不是特定網(wǎng)站提供具有高度針對性的數(shù)字廣告。這意味著廣告在用戶瀏覽互聯(lián)網(wǎng)時有效地“關(guān)注”他們。?由于這個過程非常不透明，品牌可能不知道他們正在資助UAIN網(wǎng)站的傳播，因為廣告是通過第三方購買的，并且涉及多個中介機構(gòu)。?

假作者傳播可疑健康信息

NewsGuard發(fā)現(xiàn)的所有393個廣告都直接出現(xiàn)在包含由AI生成的錯誤信息的文章旁邊。?

?一些出現(xiàn)主要品牌廣告的UAIN網(wǎng)站似乎使用人工智能工具重寫主流新聞媒體的文章。例如，AlaskaCommons.com發(fā)表的一篇文章似乎是英國小報《太陽報》美國版文章的AI重寫版本，連圖片和措辭都類似。AlaskaCommons.com的文章經(jīng)常將作者名寫為Ingrid Taylor，自今年年初以來，這位“作者”已經(jīng)發(fā)表了4364篇文章，其中僅在2023年6月15日一天就發(fā)表了108篇文章。

一些網(wǎng)站平均每天生成超過1200篇文章，幾乎沒有明顯的人工編輯監(jiān)督。相比之下，根據(jù)2022年4月的數(shù)據(jù)，《紐約時報》通常每天發(fā)表約150篇文章。

大多數(shù)AI生成的網(wǎng)站質(zhì)量低，但不會傳播錯誤信息。然而，NewsGuard發(fā)現(xiàn)，MedicalOutline.com推廣未經(jīng)證實和潛在有害的自然健康療法，標題如“檸檬能治愈皮膚過敏嗎？”“ADHD的5種自然療法是什么？”和“你如何自然地預防癌癥。”?

對于UAIN網(wǎng)站來說，快速將其內(nèi)容貨幣化非常簡單。在谷歌AdSense的登錄頁面上，谷歌稱網(wǎng)站可以輕松地賺取程序化廣告收入：“您所要做的就是將AdSense代碼放入您的網(wǎng)站，它就會立即開始工作。”

自2023年5月首次開始跟蹤UAIN網(wǎng)站以來，NewsGuard每周已確定約25個新網(wǎng)站，5月初，其報告還只確定了49個“似乎幾乎完全由人工智能軟件編寫”的網(wǎng)站。而UAIN網(wǎng)站的總數(shù)可能比NewsGuard目前識別的217個網(wǎng)站多得多。

一家全球租車公司的廣告出現(xiàn)在FoodingWorld.com上，這是一個UAIN網(wǎng)站，發(fā)布AI生成的關(guān)于食物的文章。NewsGuard用黑塊擋住了這些程序化廣告。

如果一個網(wǎng)站符合以下所有4個標準，則NewsGuard將其視為不可靠的人工智能生成新聞和信息網(wǎng)站：第一，有明確的證據(jù)表明，該網(wǎng)站的很大一部分內(nèi)容是由人工智能制作的；第二，有強有力的證據(jù)表明，內(nèi)容是在沒有人類監(jiān)督的情況下發(fā)布的；第三，該網(wǎng)站的呈現(xiàn)方式讓普通讀者認為其內(nèi)容是由人類作家或記者制作的；第四，該網(wǎng)站沒有明確披露其內(nèi)容是由人工智能制作的。

也不一定是壞事

近幾個月來，已有多家媒體報道AI生成內(nèi)容正在污染互聯(lián)網(wǎng)。當?shù)貢r間6月26日，The Verge高級記者詹姆斯·文森特（James Vincent）發(fā)表了一篇措辭激烈的評論文章。他寫道：“ChatGPT正被用來生成全是垃圾的網(wǎng)站。Etsy（手工藝品電子商務(wù)網(wǎng)站）充斥著‘AI生成的垃圾’。聊天機器人在錯誤信息的烏龍中相互引用。LinkedIn正在使用人工智能來刺激疲勞的用戶。Snapchat和Instagram希望機器人能在你朋友不在時與你交談……互聯(lián)網(wǎng)檔案館正在對抗數(shù)據(jù)刮刀，而人工智能正在把維基百科撕碎。舊的網(wǎng)絡(luò)正在消亡，而新的網(wǎng)絡(luò)正在掙扎著誕生?！?/p>

文森特認為，當然，網(wǎng)絡(luò)多年來一直在死亡，被那些從網(wǎng)站上轉(zhuǎn)移流量的應(yīng)用程序或獎勵“縮短注意力”的算法所扼殺。但在2023年，它又在消亡，一個新的催化劑在發(fā)揮作用：人工智能。

他打了一個比方：“網(wǎng)站創(chuàng)造了順暢的、功能豐富的平臺，并向任何人敞開大門，讓他們加入。他們把盒子放在我們面前，我們用文字和圖片填滿這些盒子，人們就來看看這些盒子的內(nèi)容。這些公司追逐規(guī)模，因為一旦有足夠的人聚集在任何地方，通常就有辦法從他們身上賺錢。但人工智能改變了這些假設(shè)?！?/p>

因為，只要有資金和計算能力，人工智能系統(tǒng)，尤其是目前流行的生成模型，可以毫不費力地進行擴展。它們會產(chǎn)生大量文本和圖像，很快也會產(chǎn)生音樂和視頻。其產(chǎn)出有可能超過或勝過人們現(xiàn)在所依賴的新聞、信息和娛樂平臺。但這些系統(tǒng)的質(zhì)量往往很差?！斑@些模型是在上個網(wǎng)絡(luò)時代奠定的數(shù)據(jù)層上訓練出來的，它們對這些數(shù)據(jù)的再現(xiàn)并不完美。公司從開放的網(wǎng)絡(luò)上搜刮信息，并將其提煉成機器生成的內(nèi)容，這些內(nèi)容生成成本低，但可靠性差。然后這種產(chǎn)品與之前的平臺和人爭奪注意力。”文森特指出。

最成功的網(wǎng)站往往是利用規(guī)模發(fā)揮其優(yōu)勢的網(wǎng)站，要么通過增加社會聯(lián)系或產(chǎn)品選擇，要么通過對構(gòu)成互聯(lián)網(wǎng)本身的巨大信息群進行分類，但這種規(guī)模依賴于大量人類來創(chuàng)造潛在價值，在大規(guī)模生產(chǎn)方面，人類顯然無法擊敗人工智能。

但文森特最后也談到，這不一定是件壞事。“有人會說，這只是世界運行的方式，指出網(wǎng)絡(luò)本身就扼殺了之前的東西，而且往往是為了更好的發(fā)展。例如，印刷版百科全書幾乎已經(jīng)絕跡，但我更喜歡維基百科的廣度和可及度，而不是《大英百科全書》的厚重感和安全感。對于所有與人工智能生成的寫作有關(guān)的問題，也有很多方法可以改進它——從改進引用功能到更多的人工監(jiān)督。此外，即使網(wǎng)絡(luò)上充斥著人工智能的垃圾，它也可能被證明是有益的，能刺激資金更充足的平臺發(fā)展。例如，如果谷歌在搜索中不斷給你提供垃圾結(jié)果，你可能會更傾向于為你信任的來源付費并訪問它們?！?/p>

歸根結(jié)底，人工智能目前引起的變化只是網(wǎng)絡(luò)歷史上長期斗爭的最新成果。從本質(zhì)上講，這是一場關(guān)于信息的戰(zhàn)斗——關(guān)于誰制造信息，如何獲取信息，以及誰獲得報酬。

關(guān)鍵詞：