在互聯(lián)網(wǎng)上，奧運(yùn)冠軍的“聲音”突然開始推銷農(nóng)產(chǎn)品，知名演員的“聲音”24小時(shí)不間斷在直播間與粉絲互動(dòng)……聲音是人們在社會交往中傳遞信息、表達(dá)情感的重要象征符號之一，當(dāng)下正面臨著從“一聽就假”到“真假難辨”的嚴(yán)峻挑戰(zhàn)，AI技術(shù)發(fā)展已進(jìn)入了“深度偽造”的時(shí)代。

詐騙分子利用克隆的親人聲音實(shí)施電信詐騙，商業(yè)機(jī)構(gòu)盜用明星聲音進(jìn)行虛假代言……這些亂象折射出一個(gè)核心問題：當(dāng)聲音的可信度被技術(shù)徹底解構(gòu)，人際交往中最基礎(chǔ)的認(rèn)知方式正在失效。“當(dāng)親耳聽到未必為真”，我們在享受著科技便捷的同時(shí)，亟待完善立法、強(qiáng)化技術(shù)監(jiān)管、壓實(shí)平臺責(zé)任與社會監(jiān)督等舉措，構(gòu)建綜合治理體系推動(dòng)AI技術(shù)發(fā)展回歸“以人為本、智能向善”。

完善法律法規(guī)，明確AI技術(shù)應(yīng)用紅線。生成式AI技術(shù)的迅猛發(fā)展，使得虛假視頻、音頻、圖文等內(nèi)容極易生成，其濫用風(fēng)險(xiǎn)也日益凸顯。為了追逐利益，一些不法分子不惜突破道德底線和法治紅線。規(guī)范AI技術(shù)應(yīng)用，需要建立健全相關(guān)法律法規(guī)，明確界定AI技術(shù)的使用范圍、應(yīng)用條件和禁止領(lǐng)域。通過清晰的法律規(guī)則為AI技術(shù)使用劃定紅線，將資本與創(chuàng)新的活力引導(dǎo)至那些真正能夠解決人類共同挑戰(zhàn)、增進(jìn)人類尊嚴(yán)與福祉的方向。

強(qiáng)化技術(shù)監(jiān)管，確保AI技術(shù)發(fā)展方向。隨著AI技術(shù)深度融入生產(chǎn)生活，未經(jīng)過授權(quán)和未進(jìn)行標(biāo)注的AI技術(shù)產(chǎn)品很容易引發(fā)公眾誤解，造成惡劣社會影響。治理AI技術(shù)“玩過界”，必須通過強(qiáng)化技術(shù)監(jiān)管，為其鋪設(shè)“善治”的法治軌道。要健全AI技術(shù)生成內(nèi)容審核機(jī)制，提升技術(shù)檢測能力，讓人民群眾真正享受到人工智能的發(fā)展紅利。AI技術(shù)提供方也不能“置身事外”，需要完善運(yùn)營規(guī)則，強(qiáng)化對源頭素材的把控和對生成內(nèi)容的全過程監(jiān)管。

壓實(shí)平臺責(zé)任，凝聚社會監(jiān)督合力。防范AI技術(shù)濫用風(fēng)險(xiǎn)，作為內(nèi)容傳播的服務(wù)提供者，短視頻等傳播平臺必須切實(shí)履行主體責(zé)任。要建立AI技術(shù)生成內(nèi)容的甄別和追蹤的機(jī)制，強(qiáng)化主動(dòng)監(jiān)管意識，及時(shí)發(fā)現(xiàn)、處理可能涉及侵權(quán)的違規(guī)內(nèi)容。相關(guān)部門應(yīng)繼續(xù)強(qiáng)化AI技術(shù)源頭治理，嚴(yán)厲打擊利用AI技術(shù)進(jìn)行詐騙等違法犯罪行為。同時(shí)，要加強(qiáng)人工智能相關(guān)政策的宣傳推廣和人工智能素養(yǎng)的科普教育，引導(dǎo)社會各界正確認(rèn)識和應(yīng)用人工智能技術(shù)，不斷凝聚治理共識。

凡事有度，過猶不及。歷史上每一次技術(shù)革命的核心價(jià)值，都在于拓展人類能力的邊界、提升整體福祉，而非成為灰色產(chǎn)業(yè)鏈謀利的工具。AI技術(shù)作為賦能工具，其應(yīng)用必須有邊界、有約束、有方向，絕不能無邊界濫用。（尹永全、玉溪市紅塔區(qū)融媒體中心供稿）