AI编程登上Science封面：AlphaCode打竞赛，三分之二赛题 ...

李柏呈

鱼羊 萧箫 发自 凹非寺
量子位 | 公众号 QbitAI

DeepMind的NS论文又新添一篇。
这回，是“信息学竞赛选手”AlphaCode，登上了最新一期Science封面。



对，就是那个悄悄潜入10场编程比赛敲代码，成绩超过了一半人类的编程AI。
并且就在这篇最新更新的论文中，DeepMind还首次透露了AlphaCode的“一次通过率”：66%。
也就是说，AlphaCode近三分之二的提交，都是一次AC（Accepted）的。



CMU博世人工智能中心教授J. Zico Kolter的最新评论文章也同时发表在了这一期Science上，他认为：

AlphaCode不仅仅是复制现有的解决方案。
在面对以前没见过的编程题时，它表现得非常好，无论它是在多大程度上真正“理解”了这个任务。

而在DeepMind的官方推特下，还有不少人把AlphaCode同当红炸子鸡ChatGPT联系了起来。
有人已经迫不及待看到两者同台演出：



首次通过率66%

尽管AI编程领域，GitHub的Copilot已经快进到收费模式，甚至还和程序员们“法庭上见”了。
但在DeepMind看来，AlphaCode还是颇有些不同之处。
一方面，编程竞赛对于AI而言本身就是比纯编程更为复杂的任务，关键是要为无法预见的问题构建解决方案。
另一方面，在架构上，AlphaCode采用了不同的机制来编码赛题文本。



值得一提的是，AlphaCode“打”的这10场编程比赛都来自Codeforces。
相比其他针对算法和数据结构的编程比赛，Codeforces更偏好考查思维能力，这意味着AI无法仅仅通过“背题”来完成挑战。
例如这是Codeforces上关于1553D问题的描述：

有两个字符串s和t，都是由小写字母组成。对于字符串s，我们从前向后扫描整个字符串。
如果按下Backspace键，就删除该光标前到上一个未删除字符之间的所有字符。

也就是说，假设字符串s是”abcbd”，你分别在第一个位置和第四个位置按下Backspace，那么将得到字符串”bd”。
因为在第一个光标位置前没有字符，所以第一次没有动作。第四个光标位置前的字符是c，上一个未删除字符是a，所以按下Backspace将删除前三个字符”bd”。
针对这个“前提”，我们需要解决的问题如下：

我们能否从前向后扫描一次s字符串，让s变为t？如果可以就输出YES，否则输出NO。

针对这个问题，AlphaCode给出的解法如下：



那么，我们只需要给定输入的字符串数量（4）和具体的字符串内容，就能让程序输出对应的结果：
第一组ababa（ba），第二组ababa（bb），第三组aaa（aaaa），第四组aababa（ababa）。



对此程序输出的结果分别是YES、NO、NO和YES。



在做题过程中，AlphaCode的“解题思路”也不再是黑箱。
它不仅成功解决了问题，还能将代码和注意力高亮的对应位置显示出来：



上述还只是AlphaCode解的其中一道题。
整体来说，在Codeforces平台举办的编程比赛模拟评估中，AlphaCode在超过5000名参与者的比赛中平均排名前54.3%——击败了一半的选手。
并且第一次提交就通过的概率达到了66%。
AlphaCode是如何读题写码的

所以，AlphaCode究竟是凭借什么原理达成这一“战果”的呢？
它仍然基于预训练-微调的范式打造，采用Transformer架构，其中编码器具备“解读能力”，解码器则具备“写码能力”。
这次发表在Science上的论文，也给出了更直观的原理图，并以Python作为案例，讲解具体训练的过程。
在预训练（pre-training）时，研究人员会先整理出GitHub上的各种代码集，并“喂”给AlphaCode上的编码器和解码器。
以Python上的print(“hello”)为例，这里print()是一个常见的函数，即“打印输出”，”hello”则是具体需要打印输出的内容。



经过预训练后的模型，就具备了基本的“按指令完成任务”的要求，其中编码器负责生成指令，解码器则负责填充剩余的部分。
在微调（fine-tuning）环节，研究人员会整理出竞争性编程竞赛的数据集，包括问题和解决思路两部分，并以GOLD与tempering作为训练目标，进一步减少搜索空间。
其中，问题以注释#的形式交给编码器“学习”，解决思路则交给解码器来尝试理解：



微调完成后，解码器就懂得通过编码器生成注释的内容，来尝试输出对应的代码。
经过预训练-微调后，就来到了最终的评测环节。
Codeforces的题目会被直接以注释的形式交给编码器，解码器则尝试输出数百万个不同的程序，对它们进行过滤和聚类（cluster）之后，提交其中的10个程序来解决问题。
（当然前面也提到，有不少问题在第一次提交后就通过了）



对于AlphaCode的出现，有程序员调侃称“可以在艺术家旁边排队等领救济粮了。”



不过，DeepMind官方对于AlphaCode的定调并非“AI版程序员”，而是希望它作为一个辅助的角色出现在编程工作中：

我们希望它能作为软件开发者的助手，尤其是为0编程基础的人提供写代码的机会。

论文地址：
https://www.science.org/doi/10.1126/science.abq1158
参考链接：
[1]https://www.science.org/doi/10.1126/science.add8258
[2]https://mp.weixin.qq.com/s/wZcY_hEk_M61wTJVVIXfIg
[3]https://www.deepmind.com/blog/competitive-programming-with-alphacode
—完—
@量子位 · 追踪AI技术和产品新动态
深有感触的朋友，欢迎赞同、关注、分享三连վ'ᴗ' ի ❤

睿之父

擦，不会先卷别的行业吗

小王子排骨

同室操戈 相煎何太急！

不爱听辣妹子辣的鲁迅种子

煮豆燃豆萁……

我又改网名了

文章里1553D问题描述有问题。假设字符串s是”abcbd”，分别在第一个位置和第四个位置按下Backspace，也就是用Backspace代替a和第二个b。相当于输入为Backspace-b-c--Backspace-d，因此将得到字符串bd，里面的b是第一个b，而不是第二个。

七彩葫芦娃儿

会不会有一天高级ai会不会训练低级ai?[思考][思考]