Meta的AI图像生成器无法想象亚洲男子与白人女子在一起的场景

2024年04月04日 03:08 次阅读 稿源:cnBeta.COM 条评论

你见过亚洲人和白人在一起吗,无论是混血儿还是不同种族的朋友?在我看来这很常见--我有很多白人朋友!但对于 Meta 的人工智能图像生成器来说,这显然是无法想象的。我尝试了几十次,用"亚裔男子和高加索朋友"、"亚裔男子和白人妻子"、"亚裔女子和高加索丈夫"等提示语创建图片。只有一次,Meta 的图像生成器能准确返回我指定种族的图像。




调整文字提示似乎也无济于事。当我要求"亚洲男人和白人女人带着一只狗微笑"时,Instagram 上的 Meta 文本生成器给了我三张两个亚洲人背对背的照片。当我把"白人"改为"高加索人"时,它也给出了同样的结果。"婚礼上的亚洲男人和高加索女人"给我的是一个穿着西装的亚洲男人和一个穿着传统服装的亚洲女人......但进一步观察,这似乎是旗袍和和服的混合体。多元文化真奇妙。


当我要求生成朋友关系的图像时,图像生成器也不喜欢,比如"亚裔男子与高加索朋友"和"亚裔女子与白人朋友"。每次,它都返回两个亚洲人的图片。当我要求"亚洲女性与黑人朋友"的图片时,人工智能生成的图片显示的是两个亚洲女性。将其调整为"亚洲女性与非裔美国朋友"后,结果更加准确。

有趣的是,当我指定南亚人时,该工具的表现稍好一些。它在使用"南亚男子与高加索妻子"的提示成功创建了一张图片后,又立即使用相同的提示创建了两张南亚人的图片。该系统还在很大程度上利用了刻板印象,比如在我没有提出要求的情况下,为它创建的南亚女性添加了类似宾迪(bindi)和纱丽(sari)的元素。



图像生成器无法想象亚洲人与白人站在一起,这是非常严重的。但在系统自动返回的结果中,还有一些更微妙的偏见迹象。例如,我注意到 Meta 的工具始终将"亚洲女性"表现为肤色浅的东亚人,尽管印度是世界上人口最多的国家。即使在没有提示的情况下,它也会添加特定文化的服饰。它生成了几个年长的亚洲男性,但亚洲女性总是很年轻。

它成功生成的一张图片使用的提示是"亚裔女性与高加索丈夫",图片中出现了一个明显年长的男性与一个年轻、浅色皮肤的亚裔女性--这很奇怪,因为我并不想涉足年龄差距的讨论。紧接着,我又用同样的提示生成了另一张图片,结果又变回了亚裔男子(同样年纪较大)与亚裔女子的画面。

Meta 没有立即回应置评请求。

Meta 去年推出了人工智能图像生成工具,其贴纸制作工具很快就出了问题,人们制作出了裸体图像和带枪的任天堂角色。

人工智能系统反映了其创造者、训练者和所使用数据集的偏见。在美国媒体中,"亚洲人"通常是指东亚人,,而非来自亚洲大陆其他地区的人--也许 Meta 的系统假定所有"亚洲人"都长得一样并不奇怪,但事实上,我们是一个多元化的集合体,除了在同一个人口普查框中打勾之外,他们往往没有什么共同点。

不符合这种单一文化的亚洲人基本上被从文化意识中抹去,即使是符合这种文化的亚洲人,在主流媒体中的代表性也不足。亚洲人被同质化、异国化,沦为"永远的外国人"。打破类型在现实生活中很容易,但在 Meta 的人工智能系统中却不可能。再一次,生成式人工智能不是让想象力飞扬,而是将其禁锢在社会愚蠢冲动的形式化之中。

作者/Mia Sato

对文章打分

Meta的AI图像生成器无法想象亚洲男子与白人女子在一起的场景

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan