“妙鸭”出圈,“AI写真”与隐私保护如何平衡?_杭州新闻_浙江网 

浙江网

新闻门户
欢迎监督
真实温暖丰富的网上浙江!

“妙鸭”出圈,“AI写真”与隐私保护如何平衡?

2023-08-10 09:57:05

rB4AiWTTxSmAEDvsAAJTRYOo740891.jpg


只需要花9.9元,上传21张个人照片,就能自动生成一套不输影楼效果的个人写真。最近,这样的“AI写真”火了起来。

记者在网上搜索发现,今年以来海内外已有多款基于AIGC(生成式人工智能)技术开发的图像处理软件上架,包括妙鸭相机、画颜AI、Remini、Lensa、Snow AI Profile等,其中不少成为爆款。

与此同时,“AI写真”软件的用户隐私和数据安全也引起了争议。“我怎么知道软件会不会窃取我的隐私?”这是用户最担忧的问题,也是有用户不愿上传照片而放弃制作“AI写真”的原因。

“AI写真”如何赋能摄影行业

打开妙鸭相机App,记者根据提示上传了1张正面照片和20张多角度照片,并点击“马上生成”按钮。在线支付9.9元费用后,系统提示“你前面有1888个人正在制作数字分身,预计需要3小时50分钟。”

妙鸭相机是今年7月上线的一款“AI写真”软件,包括App和微信小程序端口,其主体公司是未序网络科技(上海)有限公司。该软件上线后迅速走红,高峰时期排队人数甚至达到4000至5000人。

照片上传完成后,系统将为用户自动生成四张不同发型的数字分身来作为头像,并生成三套风格的写真,每套风格的写真有四张照片。从成品图片来看,相比通过PS等传统图像处理软件得到的换脸照片,妙鸭相机生成的照片人脸与模型贴合度较高,没有明显的不协调感,更加接近影楼的写真效果。

今年26岁的杭州市民辛女士告诉记者,AI软件生成的照片效果比她预想的要好,感觉很有意思,“我发给朋友们说是影楼拍的,他们还真的信了。”不过,她认为,现阶段玩“AI写真”更多是出于娱乐和分享的目的,并不会将之视为线下影楼的替代品,“像婚纱照、满月照等,具有仪式感和纪念意义,这些都是‘AI写真’提供不了的。不过如果真的要拍,倒是可以先用AI写真预览一下效果,找出最适合自己的服装和风格。”

“我们没想过干掉‘天真蓝’和‘海马体’,完全没有这个想法。”妙鸭相机产品负责人张月光表示,“最初我们的产品形态和现代的摄影服务形态比较相似,但最终我们希望和摄影摄像行业是共生的关系,也希望能够赋能行业。”

“AI写真”背后的隐私风险

方便快捷、价格低廉的“AI写真”虽然受到了不少网友的青睐,但相关的风险也不容忽视。以妙鸭相机为例,该软件上线后不久就因用户协议涉及的隐私问题陷入争议。有用户发现,妙鸭相机最初版本的用户服务协议提出,用户需授权妙鸭相机在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可,使得妙鸭相机可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用用户的内容。

这一“霸王条款”让妙鸭相机迅速陷入舆论漩涡。对此,妙鸭相机团队回应称,已经收到用户关于妙鸭用户协议的反馈,并在第一时间进行了修改,并承诺用户上传的照片只会用于数字分身制作,不会提取也不会用于识别和其他用途,且分身制作完成后会自动删除。

AI技术带来的侵权问题并非个例。去年12月,杭州互联网法院就曾审理了一起“AI换脸”App利用深度合成算法侵害他人肖像权的案件,最终判决该App开发者赔礼道歉并赔偿5000元。法院审理认为,民法典明确“不得利用信息技术手段伪造等方式侵害他人的肖像权”,被告未经原告同意,利用深度合成技术使用其肖像伪造视频,依法应认定为构成对原告肖像权的侵害。

为了加强数据安全和隐私保护,今年以来国家出台了一系列相关法规。今年1月10日施行的《互联网信息服务深度合成管理规定》第十七条提出,深度合成服务提供者提供人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。

国家网信办等七部门联合出台的《生成式人工智能服务管理暂行办法》,将于8月15日起正式施行。该办法指出,生成式人工智能服务提供者对使用者的输入信息和使用记录应当依法履行保护义务,不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录。