6 月 12 日消息，IT之家從“網(wǎng)信上海”微信公號(hào)獲悉，為貫徹落實(shí)中央網(wǎng)信辦“清朗・整治 AI 技術(shù)濫用”工作部署，4 月下旬以來(lái)，上海市委網(wǎng)信辦聚焦 6 類突出問題深入開展第一階段專項(xiàng)行動(dòng)。現(xiàn)向社會(huì)公布階段性工作成果，進(jìn)一步凝聚共識(shí)，共同營(yíng)造清朗網(wǎng)絡(luò)生態(tài)。
上海市委網(wǎng)信辦指導(dǎo)小紅書、嗶哩嗶哩、拼多多等 15 家重點(diǎn)網(wǎng)站平臺(tái)，集中清理“一鍵脫衣”、未經(jīng)授權(quán)的人臉或人聲克隆編輯、未備案等違規(guī) AI 產(chǎn)品、商品及相關(guān)營(yíng)銷、炒作、推廣、教程信息。小紅書、嗶哩嗶哩主動(dòng)發(fā)布專項(xiàng)行動(dòng)治理公告，開通了有害 AI 內(nèi)容的舉報(bào)受理處置渠道；星野開展智能體全面排查清理。各重點(diǎn)網(wǎng)站和 AI 平臺(tái)共攔截清理相關(guān)違法違規(guī)信息 82 萬(wàn)余條，處置違規(guī)賬號(hào) 1400 余個(gè)，下線違規(guī)智能體 2700 余個(gè)。經(jīng)整治，網(wǎng)絡(luò)違規(guī) AI 信息顯著減少。
上海市委網(wǎng)信辦深化大模型合規(guī)指導(dǎo)服務(wù)中心作用，指導(dǎo)各類提供生成式人工智能服務(wù)的主體落實(shí)合規(guī)義務(wù)，強(qiáng)化安全評(píng)估，迄今已完成 82 款大模型備案，87 款應(yīng)用登記。對(duì) 3 款未履行備案或登記程序提供服務(wù)且存在風(fēng)險(xiǎn)的應(yīng)用，依法約談并給予行政處罰。
