你眼前的“知識偶像”可能是場“AI騙局”？前不久的誠信北京3·15特別節目上，帆書創始人樊登揭露了一場AI時代“知識盜竊案”——有人用AI合成他的聲音和形象，推薦爛書圈錢。

AI技術以驚人速度重塑世界，但與之伴生的是關于“真實”的信任危機。不少知名人士投訴發聲：“AI劉曉慶”在視頻平臺大談“成功學”、“AI靳東”誘騙老年人傾家蕩產、“AI張文宏”虛假帶貨……AI換臉擬聲技術濫用觸角伸向社會的信任根基。人們不禁要問：數字時代，誰來守護“真容”？

其中，有的AI假視頻直接給博主“捅刀”，讓樊登等積累多年的知識IP形象淪為“爛書推銷員”。你以為買到的是一本某名家推薦的好書？不！那可能是AI精心包裝的“文字垃圾”。當爛書披著名人外衣橫行，消費者被騙后，罵的是博主，斷的是信任，毀的是品牌。加上流量算法，造假者用低價爛書砸錢買流量，真正的好書反而被淹沒——這不僅是商業欺詐，更是對知識價值的踐踏。

不只圖書市場領域，技術鴻溝讓老年群體成為AI詐騙“重災區”。騙子利用“銀發族”對名人崇拜、對親情渴望的心理弱點，通過偽造互動視頻實施情感操控。曾有一段模擬子女求助的AI視頻，差點讓母親匯出全年積蓄。有網友吐槽：山寨明星遍地，在“冒牌貨”光環加持下，買到一堆“冒牌貨”。

當技術成為“情感勒索”的工具，若放任“眼見不為實”成為常態，人與人、人與機構間的信任將面臨崩塌。這需要法律約束、平臺責任和公眾素養合力鑄成盾牌。此前兩會期間企業家雷軍談到，“AI換臉擬聲”是違法侵權重災區，易引發侵犯肖像權、侵犯公民個人信息權益以及詐騙等犯罪行為，甚至造成難以挽回的形象聲譽損害。業內呼吁重拳出擊，完善AI立法，嚴懲造假產業鏈，讓“技術濫用”付出代價。

算法不能只追逐流量，平臺必須加強審核，對虛假內容加強甄別。AI造假成本低到離譜，但傷害高及致命。因此，技術博弈的長期性要求監管必須前置，而非事后補救。必須看到，AI造假亂象的背后，是技術倫理的失序與人性的貪婪合謀。須知科技向善不是口號，而是法律、責任與良知的共同投射。

當造假視頻被及時斬斷，當老人免于“數字圍獵”，當名人的“臉”與公眾的“信”不再被肆意盜用，技術才有望照亮人性之光。科技向善，從你我較真開始。（摘自《文匯報》）