DALL·E 3必应开测!马骑宇航员难题攻破,一张画指定50个物体,微软前所未有深度参与研究...

002900b409d4b4952a46da629d078473.gif

f9daf120c93855f2a91923d30b0c49da.jpeg

图片来源:由无界AI生成

文章来源:量子位

DALL·E 3限量测试,已由微软Bing抢先开启,看看你是欧皇之一吗?

2488ee7a45ace641c04aafb268695dd8.png△来自WindowsLatest

没收到资格也没关系,再加上第三方研究预览、OpenAI员工的内部试玩,各种测试案例纷纷涌现,包看过瘾。

最夸张的一个,要数“指定画面中出现50个不同物体”,结果足足画出了几百个。

611d7c6c47942431c91664ce2d6bb625.png

除了简单平铺排列,更可以把这些物体组合得更有创意一些。

b970fafc2ebad474fb497851c15b643e.png

马骑宇航员这种反事实概念,过去OpenAI和谷歌的各种模型都只能画出宇航员骑马。

在论文一般当成失败案例,当时还被AI悲观主义者马库斯好一顿嘲讽。

157b7c5b25f224d3ce3ad1f93650c550.png

现在,DALL·E 3在ChatGPT加持下轻松搞定。

7473eea2a141c267145ddf049cbdd14f.png

DALL·E 3这次这么大进步,不仅仅是OpenAI自己的努力,而是与微软通力合作的结果。

虽然没有明确说明,但贡献名单中研究部分就有至少3位微软工程师与研究员参与,推理优化部分更是大部分成员来自微软DeepSpeed团队。

da7d0fceb7b90aff8268141dbb257ef4.png

回看GPT-4时还是主要由OpenAI内部研发,再给微软和其他研究机构开放权限一同测试。

这次合作模式的变化,也代表两家公司关系进一步加深。

01

一张画指定50个物体

由微软Bing首席执行官Mikhail Parakhin确认,最幸运的百分之几用户已经获得测试资格了。

24cd67d2557efc71053cb8b9cea95cbc.png

由于名额着实有限,等不及的网友纷纷在线提出脑洞,请有号的人帮忙测试。

提出画50个不同物体的网友,就是想测试DALL·E 3一张画中能容纳多少物体,类似大语言模型的“上下文窗口”。

64ee1cdc9f3c728795105171100fd912.png

收到研究预览版的第三方设计师Nathan Shipley接下了这个挑战。

首先他先让ChatGPT随机列出50个日常物体,然后直接要求把这些物体都画在一幅画里就可以了。完整的提示词是ChatGPT自己补全,再由DALL·E 3画出来。

f13f0cb4088431290e0c4d2946fe7360.png

接下来Nathan问:“你能创建一个冲浪者在努力冲浪时将这些物体堆成一堆的图像吗?”

ChatGPT在提示词中补充了一些细节:

一名中年波利尼西亚男性冲浪者有被阳光吻过的皮肤,他举着50种物品,奋力冲浪,其中包括茶杯、自行车、雨伞……海浪在他周围拍打,他的表情充满决心和轻微的恐慌,试图平衡这些物体和他的冲浪板。

结果一次尝试就得到了基本符合要求的图像,只是人物表情看起来更像是非常恐慌,而不是轻微恐慌。

32734c827ea5682217774f323ed089c4.png

后来Nathan又提出换一个更低的视角的要求,这回ChatGPT把提示词中的人物描述换成了“一名西班牙老年女性”。

60e0bcf47218fe5fc6b2d8cdb4a2d47c.png

围观网友都觉得非常惊人,但也指出为什么铅笔的大小与其他物体不成比例。

15c8adfd937f39206e4946da00ceba5d.png

有人猜测模型只是知道某样物体长什么样子,但不知道其相对大小,尤其钢笔宣传图片通常会采用近景。

49dd0693a3befadd676f226dd232af3d.png

此外Nathan还从ChatGPT嘴里拷问出了用户都能控制画面的哪些参数。

ChatGPT回复如下:

  • 描述:您可以提供所需图像的详细描述。您越具体和详细,生成的图像就越接近您的愿望。

  • 风格和媒介:您可以指定图像的风格或媒介,例如“油画”、“照片”、“插画”、“卡通”、“水彩画”、“3D渲染”等。

  • 分辨率:默认情况下,图像以1729x1024分辨率生成。但如果您的描述建议使用全身肖像或更适合高纵横比的内容,则将以1024x1792生成图像。如果需要,您还可以请求正方形分辨率 (1024x1024)。

  • 图片数量:如果您没有指定,我通常会根据您的描述创建四个不同的图片。但是,您可以请求特定数量(最多四个)。

  • 修改:如果您对初始结果不满意,可以提供反馈并请求修改。虽然我无法直接修改现有图像,但我可以使用您的反馈来生成更符合您的愿景的新图像。

  • 随机种子:如果您想修改以前的图像,我可以使用该图像元数据中的种子来生成新版本。这确保了原始图像和修改后的图像之间的一定一致性。

  • 请注意,存在某些限制。例如公众人物的形象,以及最近100年内的艺术家的风格,都无法直接创建。

重点在后面:

然而,我可以提供替代方案或使用形容词来捕捉特定风格的本质,而无需直接引用它。

1997767d1e1d808e297eabdc263fd578.png

02

马骑宇航员难题破解

OpenAI内部员工中,Will DePue是最积极公开DALL·E 3试玩结果的了。

在马骑宇航员测试中,他表示其实也不是100%成功。

2ad0df965d9e3f506d8958323bfa0ac8.png

两至三次尝试之内就能搞定,因为GPT-4在与你一起完善提示词,直到写对为止。

只要付出一些努力,你就能得到几乎所有想要的。

b4694123b538af567bd1aa1d3d43e656.png

有网友尝试用MidJourney获得相同的结果,只能说也不是完全不行,就是要费老大劲了。

几乎不可能,需要大量的提示工程,而且很难复现。

如果你是MidJourney资深用户,不妨试试能不能成。

dea04617e1cf0c47a5b74be2058c7583.png

网友提出的“8个长颈鹿喝水”挑战中,DALL·E 3再一次展现出很难把数字数准确的弱点。

1dad1f1dbada6ad1bde8affbbb575c86.png△数数图中一共有几个长颈鹿

更多错误尝试中还出现了一个双头长颈鹿。

bff90c3d07ec60a7ce29af3198594a5b.png

让AI正确计数这次没有解决,但至少解决了理解空间关系的问题。

3340d442ebeb902746ee7c1043965d2d.png

网友提出的“四匹斑马在草原上奔跑,一头狮子在后面追赶,上面有一只鹰,图片中没有其他动物”挑战中,空间关系基本正确,但是多了一只斑马。

c441c7c10d55dc380816a243eb402e2d.png

相比之下,DALL·E 2和Stable Diffusion对空间关系的理解都要更差。

5bddd0d0988afeac14872a01e31661fa.png

OpenAI负责ChatGPT企业版的Adam Goldberg也晒出不少高质量结果,不过没有分享提示词。

d312a119b37ae38a17e08f47a1af1fd6.png

9387120afdc15be32eb8649b63ac4567.png

负责AI写代码和调用工具的Jerry Tworek则搞出不少抽象概念画,如“机械细胞的分裂”。

454172f521c79fea351d88eabb990d67.png

以及“横跨银河系的计算机程序树”。

ed152b9cceed30b4348c6603d9ded464.png

03

微软OpenAI通力合作

DALL·E 3这次巨大提升,除了整合ChatGPT,图像生成部分具体是怎么做到的呢?

很可惜,鉴于OpenAI越来越Close的趋势,很可能不会像前两代那样公布论文了,只能从贡献名单中略作猜测。

DALL·E 2论文共有5位作者。

67cfa59e0aad1aec1e677448c94928a2.png

而DALL·E 3暂且不看产品、安全、公共沟通和法律等团队,光研究部分就有18人参与。

3f423e1224eaeaa0d64daf6295ba4a40.png

其中提出一致性模型(Consistency Models)的清华校友宋飏(Yang Song)在列。

一致性模型比当前最流行的扩散模型速度更快,3.5秒就能生成64张256*256的图像。

但宋飏此次属于次要研究贡献,不确定是否DALL·E 3使用了一致性模型,更可能是在改良扩散模型中借鉴了他的方法。

此外,除了DALL·E 2作者和ChatGPT团队的欧阳龙等,至少有3位研究者来自微软。

Jianfeng Wang博士毕业于中科大,在微软任主任研究员。

Lijuan Wang博士毕业于清华大学,在微软任主任研究经理。

两人曾参与无限画布图片生成NUWA-Ininity的研究。

8740c70b773ea5cd890fa36f74a93a2a.png

李琳婕(Lindsey Li)是北理工校友,分别从普渡大学和UC圣地亚哥获得两个硕士学位,在微软任资深研究员,在多模态领域有多篇顶会论文。

3d002004ba387de2463309872195261b.png

除了研究方面,DALL·E 3的推理优化有微软DeepSpeed团队深度参与。

Deepspeed是开源的深度学习优化库,减少计算功耗和内存使用,在现有硬件上通过更好的并行来训练和推理大规模分布式模型。

f776266ff79ad31da63fbf9ca9a52eb8.png

其中不少人都表示很高兴能参与这项工作,并对DALL·E 3的发布很激动。

a8a95a1ab4a44f8ec67f83bcbe308d36.png

最后,在特别贡献中,微软的Bing首席执行官Mikhail Parakhin、Azure云首席副总裁Misha Bilenko都在其中。

f014398aa01db666c4a825342f807b88.png

微软之前的发布活动中也确认了Bing会直接集成DALL·E 3。

37861eefe9ecbe5081da8b9b5870b97d.png

按照现在规则,Bing上的DALL·E 2是免费的。会发放99个加速代币,没代币只是需要更长时间排队。

fec9fe99ce2d45f71ea32a431320d2b3.jpeg

虽然10月份DALL·E 3在ChatGPT Plus要收费每月20美元。

但既然GPT-4在Bing上是免费提供的,将来DALL·E 3免费玩也可以期待一波了~

参考链接:


[1]https://x.com/willdepue/status/1705005718666158107

[2]https://x.com/CitizenPlain/status/1705248617131291032

[3]https://x.com/MParakhin/status/1704563792645079143

巴比特园区开放合作啦!

e792f04aea96116c2a16b66c294c8f55.png

037238be5761f1ebd3230ed70548ad24.jpeg

21ec40c0557be9ae3fb4465e8cf289c6.gif

中文推特:https://twitter.com/8BTC_OFFICIAL

英文推特:https://twitter.com/btcinchina

Discord社区:https://discord.gg/defidao

电报频道:https://t.me/Mute_8btc

电报社区:https://t.me/news_8btc

f6da72fd1f78d9578e35e76284251670.jpeg

猜你喜欢

转载自blog.csdn.net/weixin_44383880/article/details/133256597