焦點關注：【地評線】東湖評論：給AI加道防線，賦能美好生活

2023-06-09 18:29:17來源：荊楚網(wǎng) ?（湖北日報網(wǎng)）

(資料圖片僅供參考)

近日，一起利用AI實施電信詐騙的典型案例在網(wǎng)絡上引起熱議。詐騙犯通過AI換臉和擬聲技術佯裝好友，對福州市某科技公司法人代表郭先生實施詐騙，在視頻聊天“核實”對方身份后，郭先生10分鐘內(nèi)被騙子騙走430萬元。

郭先生并不是AI詐騙受害者的個例。近年來，“AI換臉”“AI換聲”等虛假音視頻進行詐騙、誹謗行為在網(wǎng)絡上屢見不鮮。利用AI技術生成更加逼真的網(wǎng)絡視頻，制造出更加真實的生活化情景，本應助力產(chǎn)業(yè)創(chuàng)意發(fā)展，增進人民生活福祉，卻“誤入歧途”，在“科技賦能美好生活”的前進道路上迷了路。

虛假的音頻在網(wǎng)絡上大肆傳播，是對事實的扭曲，更是對每一位公民權利的侵害。據(jù)了解，新騙局來襲后，詐騙成功率接近100%。竊取網(wǎng)友視頻合成到不雅視頻中、使用AI換臉與語音轉(zhuǎn)換技術生成公司領導面孔、制造與“好友”視頻假象再對受害人進行敲詐勒索，讓無數(shù)人掏空口袋，心也涼了半截。換臉的視頻、相似的音色被誤用的人工智能讓人們放松戒備，讓騙子有機可乘，更讓人與人之間的信任變得無比薄弱，人與人之間的情感鏈接變得無比脆弱。

AI詐騙之所以屢屢頻發(fā)，一方面是因為AI行業(yè)應用邊界模糊，換臉換音技術“來去自由”，讓AI詐騙有“用武之地”；一方面是反詐術、識別詐騙方法有限，面對魔高一尺，沒有反詐科技設備讓我們道高一丈。另一方面是普通百姓的反詐騙意識不夠強，甄別騙術的“慧眼”還需擦亮。

因此，相關部門要樹立AI行業(yè)深度融合規(guī)范，標高行業(yè)準入門檻，明確技術的“底線”與“紅線”，從政策、法律層面限制其應用場景以及相關領域，讓AI有真正的用武之地。而作為研發(fā)單位，需始終堅守技術安全，加強技術管理，確保不被不法分子用于非法領域；注重反電信網(wǎng)絡詐騙的科技裝備的研發(fā)，將AI詐騙限制在行業(yè)門檻之外；同時，強化與執(zhí)法部門、網(wǎng)絡公共平臺的協(xié)作，共筑防范詐騙安全基石。最后，個人應主動了解人工智能潛在的風險隱患，提高隱私保護以及安全意識。日常生活中，不輕易提供人臉、指紋等個人生物信息給他人，更不要在網(wǎng)上過度公開上傳有關自己及家人的動圖、視頻等，讓不法分子無機可乘。

在人工智能快速發(fā)展的道路上，各種各樣的AI產(chǎn)品化了妝，披上了新外衣，變了新模樣，但人們對美好生活追求的初衷從未改變。面對AI帶來的機遇與挑戰(zhàn)，我們要明確邊界，亮出底線，讓AI回歸“正道”，為美好生活助力。

稿源：荊楚網(wǎng)（湖北日報網(wǎng)）

作者：譚慧（宜昌夷陵）

責編：丁楚風

標簽：