快播創(chuàng)始人王欣在法庭上發(fā)表的“技術(shù)無罪論”曾在7年前引發(fā)全民討論。出獄后的王欣修正了他的觀點(diǎn)：“技術(shù)是無罪的，但人會(huì)犯錯(cuò)”。

【資料圖】

現(xiàn)在，AI這個(gè)技術(shù)正在落入不法者手中。5月22日，“AI詐騙正在全國爆發(fā)”登上了微博熱搜榜首。包頭警方披露，不法分子利用AI換臉和仿聲，在微信視頻中蒙混過關(guān)，10分鐘內(nèi)騙取事主430萬元。

類似事件頻頻在國內(nèi)發(fā)生。行騙者用AI工具換臉、模擬聲音實(shí)施了多起詐騙，不少人中招。

有網(wǎng)友用“幻術(shù)”形容可易容、能仿聲的AI。此外，還有一些人瞅準(zhǔn)了ChatGPT的文本能力，專用它生產(chǎn)謠言，博取眼球，吸引流量。

當(dāng)AI被“黑化”，正邪攻防戰(zhàn)也打響了。

AI換臉+仿聲 10分鐘騙走430萬

當(dāng)知根知底的微信好友撥來視頻，對(duì)面是熟悉的面孔和聲音，一番寒暄后，好友提出有朋友在外地投標(biāo)，需要借用一下你的公司賬戶過一下款。過款方式是先把錢轉(zhuǎn)給你，再讓你給他的“朋友”賬戶匯款。你會(huì)對(duì)整件事情有所懷疑嗎？

福州市某科技公司法人代表郭先生沒有懷疑，10分鐘內(nèi)打款430萬元，但他其實(shí)被騙了。

根據(jù)“平安包頭”5月20日發(fā)布的公眾號(hào)消息，郭先生的微信好友在要了卡號(hào)后，聲稱已經(jīng)把錢打到了郭先生的賬戶，還把銀行轉(zhuǎn)賬底單的截圖發(fā)給了郭先生。基于視頻聊天信任的前提，郭先生沒有核實(shí)錢是否到賬，就把錢打給了對(duì)方提供的陌生賬戶內(nèi)。

等郭先生再次聯(lián)系該微信好友，表示事情已經(jīng)辦妥，沒想到對(duì)方回復(fù)了一個(gè)“？”。郭先生這才心生疑竇，打去電話兩人一對(duì)，這才意識(shí)到遇到了“高科技”騙局。

原來，和他微信視頻過的“好友”，從臉到聲音都是假的。郭先生為啥沒認(rèn)出來？AI換臉和仿聲發(fā)揮了作用。郭先生稱，“在視頻中確認(rèn)了面孔和聲音，才放松了戒備”。

回頭復(fù)盤，郭先生唯一的操作失誤，就是沒仔細(xì)確認(rèn)錢到賬，就給對(duì)方先打了款。而他之所以會(huì)這么做，是因?yàn)橐呀?jīng)在視頻里看到了“好友”的臉、聽到了“好友”的聲。

更不可思議的是，騙子并非使用冒牌微信賬號(hào)與郭先生視頻，而是直接用其好友的真實(shí)賬號(hào)發(fā)起視頻聊天。這表明，朋友的微信賬號(hào)也在神不知鬼不覺間被騙子盜用了，這也是騙子成功施騙的另一個(gè)關(guān)鍵。

不幸中的萬幸，識(shí)別騙局后郭先生第一時(shí)間報(bào)警，福州、包頭兩地警銀迅速啟動(dòng)止付機(jī)制，成功止付攔截336.84萬元，但仍有93.16萬元被轉(zhuǎn)移，目前正在追繳中。

AI詐騙相關(guān)話題引發(fā)熱議

這起詐騙案件一經(jīng)披露，迅速引發(fā)了廣泛關(guān)注，“AI詐騙正在全國爆發(fā)”更是登上了微博熱搜榜首。許多網(wǎng)友稱，當(dāng)強(qiáng)大的AI被壞人利用，危害性比進(jìn)步性帶來的威力還大。

“臉不能信，聲音也不能信了，看來以后想不被騙只有兩種辦法，一是不借，二是沒錢”，有網(wǎng)友流露出擔(dān)憂，畢竟視頻連線都能騙人，“你沒法確定電話那頭跟你聊天的是誰”。

用AI軟件造謠、傳謠 多人被刑拘

“AI仿聲詐騙”這股風(fēng)還是迅猛地吹到了國內(nèi)。4月27日，《元宇宙日爆》曾發(fā)文“接到‘女兒’求救電話 親媽差點(diǎn)被AI仿聲騙了”，那時(shí)的案例還發(fā)生在美國亞利桑那州，騙子采集女兒的聲音，冒充綁匪，讓“女兒”在電話里向母親求救。事后回憶起這一幕時(shí)，接到電話的母親依然對(duì)電話里的女兒聲音深信不疑。

技術(shù)已經(jīng)就位，AI迅速在惡人手中“黑化”，成為掠奪普通人錢財(cái)?shù)墓碛啊?/p>

據(jù)財(cái)經(jīng)網(wǎng)報(bào)道，近期，福州的李先生也遭遇了AI詐騙，騙子冒充其領(lǐng)導(dǎo)打來微信視頻電話，謊稱親戚參加競標(biāo)需要資金，自己不便出面，想借李先生的名義轉(zhuǎn)給親戚。李先生因此被騙48000元。

小李的大學(xué)同學(xué)通過QQ跟她借錢。對(duì)方打過來一段四五秒的視頻電話，小李看到確實(shí)是本人，便放心轉(zhuǎn)賬3000元。然而，在她第二次轉(zhuǎn)賬時(shí)發(fā)覺異常，再次撥通對(duì)方電話，這才得知同學(xué)的賬號(hào)被盜。警方通過偵查發(fā)現(xiàn)，此段視頻系詐騙分子通過AI技術(shù)偽造。

類似案件不勝枚舉，微博網(wǎng)友“快樂大吉利”將AI比作幻術(shù)。

被“黑化”的AI不止能通過換臉和仿聲詐騙，還成了謠言制造機(jī)，給被造謠者帶來困擾。

今年3月，女孩一絲不掛搭地鐵的照片瘋傳，一些針對(duì)照片中人的不良評(píng)論出現(xiàn)。結(jié)果，有人在某平臺(tái)找到了與裸照同樣姿勢的原圖，只不過圖中的女性穿著衣服，傳播的裸照是用AI“一鍵脫衣”生成的。而照片里的女性本人在生活中已經(jīng)被各種謠言纏身。

幾天前，網(wǎng)上流傳“上海市青浦區(qū)某幼兒園多名女教師因賣淫被警方處理”的信息，后經(jīng)青浦公安分局查證，該消息是憑空捏造的謠言，后續(xù)在傳播過程中，還有人在未經(jīng)核實(shí)的情況下，通過AI軟件輸入關(guān)鍵詞，加工生成一篇題為“上海示范幼兒園教師賣淫被抓”的文章，引發(fā)大量網(wǎng)民討論。上述造謠和傳謠者已被警方依法刑事拘留。

青浦公安分局公告的一起AI傳謠事件

另有鄭州市公安局航空港分局于5月20日公告稱，有人為了吸粉引流，利用ChatGPT人工智能軟件生成虛假不實(shí)信息，在公眾平臺(tái)發(fā)布“鄭州雞排店驚現(xiàn)血案，男子用磚頭砸死女子”等謠言，被依法采取刑事強(qiáng)制措施。

能幫忙寫文案、做策劃的AI工具，在不法分子手中成了造謠、傳謠的“助手”，AI作為技術(shù)工具的黑色一面顯露出來。

當(dāng)AI詐騙頻發(fā)、謠言滿天飛，正與邪的攻防戰(zhàn)打響了。包括谷歌、微軟在內(nèi)的科技公司推出了“鑒偽”的相關(guān)工具，用技術(shù)制裁技術(shù)。對(duì)于普通人來說，AI詐騙的興起已經(jīng)敲響了警鐘，面對(duì)借錢、匯款等請(qǐng)求，警惕心還需要再提高幾個(gè)等級(jí)，多渠道核實(shí)身份成為必要防騙做法。

包頭警方提示，針對(duì)花樣翻新的智能AI詐騙，公眾要提高防范意識(shí)，不輕易提供人臉、指紋等個(gè)人生物信息給他人，不過度公開或分享動(dòng)圖、視頻等；網(wǎng)絡(luò)轉(zhuǎn)賬前要通過電話等多種溝通渠道核驗(yàn)對(duì)方身份，一旦發(fā)現(xiàn)風(fēng)險(xiǎn)，及時(shí)報(bào)警求助。如果有人自稱“熟人”、“領(lǐng)導(dǎo)”通過社交軟件、短信以各種理由誘導(dǎo)你匯款，務(wù)必通過電話、見面等途徑核實(shí)確認(rèn)，不要未經(jīng)核實(shí)隨意轉(zhuǎn)賬匯款，不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息。如不慎被騙或遇可疑情形，注意保護(hù)證據(jù)并立即報(bào)警。

關(guān)鍵詞：