(資料圖)

上傳20張以上照片，再支付9.9元，選擇喜歡的模板，生成自己的“數(shù)字分身”，效果以假亂真，堪比市場(chǎng)價(jià)幾十元甚至幾百元的藝術(shù)照。最近，一款名叫“妙鴨相機(jī)”（以下簡(jiǎn)稱“妙鴨”）的小程序在互聯(lián)網(wǎng)上火爆出圈。

9.9元的平民定價(jià)、簡(jiǎn)單的玩法、驚喜的效果，加之裂變技巧，不到一周時(shí)間，妙鴨相機(jī)就成為爆款。在使用高峰，一晚上就有 5000 多人排隊(duì)使用，用戶可能要等上幾小時(shí)甚至十幾小時(shí)，才能拿到屬于自己的作品。有網(wǎng)友直言：“和線下動(dòng)輒幾百上千的拍照體驗(yàn)相比，真是太香了。”

隨著社交媒體上越來(lái)越多用戶分享著這份“9.9元帶來(lái)的快樂(lè)”時(shí)，爭(zhēng)議問(wèn)題也隨之而來(lái)，網(wǎng)友開(kāi)始擔(dān)心上傳那么多個(gè)人照片，安全嗎？應(yīng)用方是否會(huì)將用戶照片挪作他用？若上傳的照片被用于AI模型訓(xùn)練，那用戶的一些面部特征是否會(huì)出現(xiàn)在其他地方的生成圖片？而這些不僅僅是妙鴨相機(jī)，也是更多需要上傳照片的相機(jī)應(yīng)用所面臨的問(wèn)題。

網(wǎng)友們的擔(dān)憂并不是完全沒(méi)有道理，畢竟隨著AI模型迭代，訓(xùn)練數(shù)據(jù)集的擴(kuò)大、算法的迭代以及算力水平的提升，AI生成內(nèi)容越來(lái)越逼真，內(nèi)容侵權(quán)、信息造假、AI欺詐等風(fēng)險(xiǎn)讓人不得不在心里多留幾個(gè)心眼。

據(jù)上海辟謠平臺(tái)調(diào)查發(fā)現(xiàn)，妙鴨是生成式人工智能（AIGC）技術(shù)的一種應(yīng)用。生成式AI將改變工作方式、重塑商業(yè)模式，越來(lái)越多的企業(yè)已開(kāi)始積極探索相關(guān)應(yīng)用，以期提升創(chuàng)新效率、實(shí)現(xiàn)高質(zhì)增長(zhǎng)，隨著它的走紅，如何預(yù)防技術(shù)風(fēng)險(xiǎn)和信息安全風(fēng)險(xiǎn)，顯得愈發(fā)重要。

AI相機(jī)靠譜嗎

生成式AI帶來(lái)敏感個(gè)人信息泄露風(fēng)險(xiǎn)

朝陽(yáng)區(qū)居民阿珊表示，看到大家在朋友圈發(fā)妙鴨相機(jī)生成的照片，很想嘗試。但在體驗(yàn)中發(fā)現(xiàn)需要上傳20張照片，這一要求直接將其勸退，“向一個(gè)APP里傳這么多我的照片，感覺(jué)很不安全”。

一次性上傳20張照片才能生成“數(shù)字分身”的前提同樣勸退了從事技術(shù)工作的孟小姐，“我看了同事的成品，發(fā)現(xiàn)最后的結(jié)果與上傳照片質(zhì)量很有關(guān)系——上傳的照片越清晰、越正面，最后產(chǎn)生的作品越真實(shí)。但是，我把自己的照片交給這樣一個(gè)小程序，安全嗎？我上傳的照片，以及生成的圖片，企業(yè)會(huì)妥善處理嗎？”她還做了一個(gè)實(shí)驗(yàn)：使用妙鴨生成的畫像，能成功騙過(guò)那些采用圖片比對(duì)進(jìn)行人臉識(shí)別的應(yīng)用，“如果有人用我的‘?dāng)?shù)字分身’從事不法行為，我能免責(zé)嗎？”

妙鴨小程序的自我介紹