核心内容摘要
蓝莓的成长：一场关于耐心、热爱与丰收的视觉诗篇（视频9.1）
据科技透明项目TTP周二发布的报告显示在谷歌Play商店和苹果App Store上发现了数十款可以制作非合意性化深度伪造内容的AI应用这一问题远不止存在于xAI的Grok中。
仅限制Grok AI图像编辑器的访问可能还不足以阻止AI生成非合意性化图像的泛滥。
TTP的研究发现在谷歌和苹果平台上存在着与Grok类似的大量AI去衣应用。
TTP在谷歌Play商店识别出55款应用在苹果App Store发现48款应用这些应用能够数字化地移除女性的衣物并将她们渲染为完全或部分裸体或者穿着比基尼或其他极简服装。
这些应用在全球范围内的下载量超过
05亿次创造了
17亿美元的收入。
据报道谷歌已暂停了TTP发现的数款应用苹果则移除了其中28款其中两款后来被恢复。
这并非首次有关AI去衣应用规避监管的报告——苹果和谷歌在2024年就曾对类似报告做出回应。
TTP此次报告的发布正值有声音呼吁苹果和谷歌将X和Grok从其应用商店中移除因为Grok生成了数百万张非合意的性化图像主要涉及女性和儿童。
Grok和X目前正面临欧盟和英国的调查以及至少一名受害者的诉讼。
虽然苹果和谷歌已经处理了TTP报告中的应用但X和Grok仍可在两家公司的应用商店中自由获取。
正如《The Verge》的伊丽莎白·洛帕托所指出的苹果和谷歌迅速移除了ICEBlock应用却允许X生成被ICE杀害女性的贬损图像。
QAQ1什么是AI去衣应用它们有多普遍AAI去衣应用是指能够数字化地移除女性衣物将她们渲染为裸体或穿着极简服装的应用程序。
据TTP调查仅在谷歌和苹果应用商店就发现了超过100款此类应用全球下载量超过7亿次。
Q2这些AI去衣应用产生了多大的商业影响A根据TTP的报告这些AI去衣应用创造了
17亿美元的收入显示出这类非合意内容生成应用背后存在巨大的商业利益链条。
Q3苹果和谷歌对这些应用采取了什么措施A谷歌已暂停了数款被TTP发现的应用苹果移除了28款应用其中两款后来被恢复。
不过引发争议的X和Grok仍可在两家应用商店中自由下载。