大数据文摘转载自果壳

作者：Fangorn

AI的意思都知道伐？不知道的，去反思一下你关注了果壳多久。

AI叫做“人工智能”——被人工调（陪）教（练）出来的智能。在训练AI的时候，研究者们有一个很常用的路线：制定一个目标，让AI自己去试错，从而得出最优结果。

比如说遗传算法，基本的思路就是把自然选择的想法套用在程序上：设定一套规则和目标当成"环境"，然后让里面的程序不停“突变”并遭受环境选择，从而向目标不断前进。

但是这样的招式有个问题：程序经常会作弊，搞出超展开的解法。

其实也不算作弊，人家是很精准地满足了你设定的规则，问题就是人制定规则的时候难免有漏洞。人类自己因为运算能力和思维定势，很难看出漏洞，可是对一大批方法同时进行试错和选择，漏洞就很容易被逮着了……在经济学上有一个概念叫古德哈特原则很好地形容了这个现象：“如果你把一个指标拿出来当成评价标准，这个指标就失效了。”

有一群研究者就整理了一个这种场景的list，基本上可以当AI笑话大全来看。

NO.1 任务：飞机降落

算法利用了物理模拟器的溢出漏洞，搞出了一个特别巨大的力，让溢出被判定为0，从而获得了完美得分。

Feldt, 1998

NO.2 任务：挪木块

一个机械手被要求把木块挪到桌子的指定地点，它的解法是：挪桌子。

Chopra, 2018

NO.3 任务：赛艇