315晚會曝光AI大模型被投毒 模型能給“標(biāo)準(zhǔn)答案”

飛象網(wǎng)訊 近年來，AI技術(shù)發(fā)展迅猛，各式各樣的AI大模型應(yīng)用場景正在加速落地。與此同時，AI大模型技術(shù)也被黑產(chǎn)利用，通過虛假數(shù)據(jù)“投毒”，讓AI模型給出客戶想要的“標(biāo)準(zhǔn)答案”。今年的315晚會曝光AI大模型被投毒，GEO業(yè)務(wù)成產(chǎn)業(yè)鏈。

根據(jù)央視記者調(diào)查，一家業(yè)內(nèi)知名的GEO服務(wù)商負(fù)責(zé)人稱，他們公司的強項，就是能夠幫助客戶，在消費者使用AI大模型搜索時，讓客戶排名前列。“就是相當(dāng)于做軟文，然后讓AI平臺去刷錄、輸入、抓取�！痹撠�(fù)責(zé)人也說，現(xiàn)在AI大模型的算法更新頻繁，要想維持AI大模型的持續(xù)推薦，必須持續(xù)大量投喂與客戶相關(guān)的推廣軟文。

調(diào)查顯示，業(yè)內(nèi)人士在電商平臺上，隨機購買了一款名叫“力擎GEO優(yōu)化系統(tǒng)”的軟件。之后虛構(gòu)了一款智能手環(huán)，并將虛構(gòu)的產(chǎn)品信息輸入軟件系統(tǒng)，勾選文章創(chuàng)作指令。不一會兒，這個力擎GEO優(yōu)化系統(tǒng)就自動生成了十余篇智能手環(huán)的宣傳軟文。業(yè)內(nèi)人士選取了十余篇虛構(gòu)軟文，通過力擎GEO系統(tǒng)發(fā)布在了互聯(lián)網(wǎng)上。隨后，業(yè)內(nèi)人士在AI大模型平臺展開詢問：“智能健康手環(huán)推薦”，就有兩個AI大模型推薦了這款虛構(gòu)的智能手環(huán)，而且排名靠前。

通過這款力擎GEO系統(tǒng)對AI大模型潛移默化的一番圍獵，憑空捏造出來的這款商品，就這樣被荒唐地推向了使用AI大模型的消費者。

力擎GEO系統(tǒng)的運營者李總表示，GEO業(yè)務(wù)受熱捧的主要原因就是它能在AI大模型里幫客戶“喂料投毒”，實現(xiàn)客戶的商業(yè)目的。想做GEO業(yè)務(wù)，操控AI大模型的關(guān)鍵節(jié)點，就是在各大互聯(lián)網(wǎng)賬號上“發(fā)稿”。他告訴記者，GEO業(yè)務(wù)的火爆，眼下就催生出了不少專門從事發(fā)稿業(yè)務(wù)的公司和平臺。他們長期承攬各種發(fā)稿業(yè)務(wù)，以便讓AI大模型引用和抓取，成為圍獵AI大模型，進(jìn)行數(shù)據(jù)投“毒”的重要一環(huán)。