“我是彩云天气的粉丝！”当袁行远通过朋友转述，听到这句话的时候，他刚刚从中国气象局副局长余勇手中，接过首届中国气象服务协会科学技术奖风云人才奖的奖杯和红色奖状。经由他人转达，袁行远得知，评委中也有他打造的天气预报应用彩云天气的用户。
“你知道吗？这种时候，就会有很大的成就感！”
当时是 2020 年 12 月，7 年前的 2013 年，袁行远开始着手精准分钟级天气预报的研发，当时团队只有三个人——他自己、业余参与的女友，和清华大学计算机专业的肖达，后者与他同在人工智能爱好者俱乐部集智俱乐部，为这个项目兼职做神经网络的构架。
次年 2 月，他们上线了第一版的程序网页，三人激动地发帖宣布：“分钟级降雨预报来啦！”
他们想要解决的，是传统以城市为单位的天气预报服务，与每个人的实际出行需求之间的断档与空白。
究竟几分钟后下雨？几分钟后雨停？城市这么大，局部地区是什么地区？降雨离我有多少条马路？这些再自然不过的需求，在分钟级天气预报出现前，被淹没在了人们习以为常的生活习惯中。
“2014 年以前，天气服务大部分是搬运的世界气象组织，或者中国气象局做出来的预报。”而多年来，普通人对中国气象局预报的接收渠道，主要局限在中央电视台《新闻联播》后的五分钟天气预报节目中，“中国 300 多个城市，五分钟说不完，只能报省会。但我家又不住在省会，我家在四川德阳。”小时候，每次看天气预报，袁行远的父亲就跟他说：“看成都吧，差不多。”
“怎么能这样呢？”袁行远不服，“我明明就不在这儿啊！应该给我一个我自己专属地点的、属于每分钟更新的东西。”这便是他脑海中属于下一个时代的天气预报。
“但是市面上没有，那就我来做吧。”这也因此成为他创业的契机之一。
初次上线的程序 1.0 版本，做到了将降水预报的范围缩小到每条街道。其中最为关键的降雨预报准确率已经达到 80% 左右，而传统天气预报则只有 60%。
袁行远清楚记得，自己最初的一条微博，收获了远超他想象的 400 多次转发。“现在看来不算啥，但那个时候作为一个年轻的独立开发者，我做了一个软件，发出来有人用，可能先有那么几千个用户，大家的鼓励令我很感动。”这为开发初期的他与团队建立起了自信。
来自全国各地的用户，开始在生活中使用彩云天气，另一个直接证明便是接踵而至的网友反馈。“我记得有一个场景，是有个学生去表白，点了一圈心形的蜡烛，但是下雨了，就用好多雨伞挡着蜡烛。就有网友艾特那个同学，说你应该使用彩云天气。”更多用户则会发来自己所在地的预报误差，“到底是一分钟还是两分钟，他就会拿手机拍手表、外面的天空和彩云天气。”
“那一步，我就知道我做对了。”袁行远意识到，这形成了非常好的正向反馈循环。
“其实，消费者需要的就是管用。”在苹果 App Store 的评分与评论区，一位给彩云天气打出五星好评的用户如此写道。这款在使用者眼中“管用”的、填补短时天气预报在大众服务层面空白的应用，在并未投入大量宣传的情况下，逐步打开了自己的知名度。
截止 2021 年底，彩云天气的月活跃用户已经达到了千万级，开放平台注册开发者超过 10 万，每天向全球提供 10 亿次预报，累计发出预报次数已达 4800 亿次。
2016 年，袁行远在活动上演讲，
讲述人工智能如何进行天气预报
自第一版程序发布至今的 7 年里，袁行远创立的彩云科技收获了天使轮与 A 轮的融资，经历了几次搬迁，办公室现在位于北京海淀区的 768 创意产业园里，向西不到两公里是清华大学的校园。如今的公司规模，已经有了 50 余名全职员工。
北京的冬天，公司门外的池塘结了冰，而一套安置在室外的测量仪器仍在运作，监测着公司所在位置的气象数据。
但这套数据仅供员工自己查看，与预报无关。彩云天气的预报逻辑，是基于气象雷达图、卫星云图、手机数据反馈、探空气球和自动观测站，经由人工智能算法进行预测，构建有效的预报网络。
为什么想到让人工智能来阅读气象雷达图？这又如何成为一次可行的创业？网络上流传的彩云初创故事版本众多，袁行远知道，也会以此开玩笑：“有种牛顿被苹果打中的感觉是吧？”如今回忆起来，他意识到，自己在不同年龄阶段遇上的大小事情，都不同程度地起着作用。
小时候在四川，表哥送了袁行远一个天文望远镜。他喜欢看星星，也很喜欢科幻，“但四川的云很多，我每天都在看明天是晴天还是阴天，这决定了我什么时候玩天文望远镜。”
来到北京之后，他偶然读到小龙哈勃在果壳网上发表的一篇科普《人人都是天气专家，亲自预报几点几分下雨》，那也让他真正了解了什么是气象雷达图。“那个文章对我影响非常深，你会知道气象雷达图每隔 6 分钟会变一次，通过它就可以预测到底会不会下雨。”
他养成了看气象雷达图的习惯，“起初也会预测错，因为云会有生长和消散。”后来每次下雨之前，袁行远都会去看雷达图。
“我就变成周围人的神诸葛了，我说回龙观 10:10 下雨，然后 10:08 就开始狂风大作，那个时候我就会很自豪。“
于是当 2013 年，处于辞去阿里巴巴算法工程师工作后的 Gap Year 期间的袁行远，在几个产品方向中选择了分钟级天气预报这一最有难度的起步。“那个时候就想，还是要争口气，要做点别人觉得有技术含量的东西。”
办公室一角，摆满了袁行远和彩云科技
在这些年获得的奖项和证书
对于并不了解人工智能如何进行天气预测的人，袁行远有一套解释的方法。
他首先会从预报的基础原理开始科普，告诉对方，要解决天气预报的问题，有两种方法论。
“方法论一，是根据物理规则，比如云在这里，风向是多少，它下一秒会移动到哪里。”在规则的基础上，需要做的就是不停地进行运算，这在短临预报中被称为“光流法”，根据已有的数据去猜测云的移动。“就是让计算机扮演上帝。”袁行远补充，“然后让计算机根据人们设计的规律来控制降雨带的变化。”
“还有第二种方案，就是数据驱动型的，意思是我不知道规则是什么，但是我知道下雨了，所以猜测一个规则。”这个规则可能会猜错，也可能猜对，但对于预测者来说没有关系。如果在一个规则下，降雨比预测的更强了，就将这一规则的权重调低，反之则调高。
“它就像一个开关。”袁行远又用了几个类比，“它就像房价，可以这样理解，它到底涨还是跌呢？我用一条线去模拟它，跟实际比，如果模拟得太高了，那么我就降一点。只不过房价是一条线，但降雨是在空间中进行的三维变化，需要更多的数据去模拟。”
第二种方法更先进，也在人脸识别等人工智能应用领域里得到了证明，但袁行远很快发现，在训练 AI 阅读气象雷达图，进而预测天气的时候，情况并非如此。“第二种方法需要大量的数据计算，但就算你喂了很多数据给 AI，它的效果也不一定会好。”
“就降雨来说，它会有一个模糊的问题。因为它是一个对降雨区域的猜测嘛，那么它可能会更加倾向于猜测这一片地区都在下雨，而不是某几个地区有高强度的下雨，因为前者在公式中的得分会更高。”
这些问题至今仍是全球研究者的攻克对象。今年 9 月，Google 旗下 AI 实验室 DeepMind 于《自然》杂志发表了一篇论文，介绍其针对降雨的临近预报，所创建的深度生成模型（Deep Generative Model）。
“他主要想攻克的也是这个问题。”袁行远说，“第二个方法所做出来的降雨图，会看起来很不像一个真实的降雨图。而传统的光流法其实更像降雨图一些，所以我们一开始上线的就是光流法，即基于规则的方法。直到 2017 年，我们才解决了模糊的问题。”
办公室墙上的几台显示屏，
实时追踪和记录着预报的准确率
遇到技术问题是必然的，开发的过程远不如用户眼中那样一帆风顺。“还有一些问题，比如在晚上的时候，探测手段有缺陷，你可以认为气象雷达有时候会失效。”袁行远顿了一下，随即又从原理开始补充，“因为电磁波有折射，你遇到一个水滴，它返回了，就表示这个地方有降水。”根据电磁波返回的时间和强度，哪个地方有没有降水，就是可测量的。
“但是当晚上的时候，会发生空气的逆温折射，简要地讲，就是回波在传递的过程中会自动弯曲，你就不能确定它到底是水滴还是空气当中的折射，这怎么办？”这是彩云天气刚上线的时候遇到的核心困难之一。
“所以第一个月，我们真正能用的范围就是白天的沿海地区。”2014 年初上线时，团队选择了先从北京、上海、广州三个城市开始提供服务。“三部雷达，支持三个城市。”袁行远清楚记得，自己与上海的同学联络，请对方帮自己对比，看预测结果到底准不准。
那么，夜晚到底有没有下雨呢？为了解决这个问题，袁行远用三个字概括，那就是“自己看”。
“所以现在北京办公室外面有个池塘，我们习惯在一个能够看见到底有没有下雨的地方。”早期，彩云团队在借用的半地下室里办公，能够听见雨打上顶棚的声音。“如果预报了却没下雨，我们就把数据修正掉。这个是有点搞笑的，虽然我们叫人工智能预报，但是面对一个不准确的观测数据，到底是不是下雨，还是要根据自然智能（人工）来标注。”
数据修正的参考来源还有用户的反馈，他们会向彩云或是袁行远的账号发来私信，告诉自己的所在地到底有没有下雨。
因此，当时很多个北京下雨的晚上，对袁行远来说都是不眠之夜。他坐在电脑前，对比用户的反馈，查看外面到底有没有下雨，根据这几个数据来调整。“因为确实，这个问题非常复杂，到底有没有下雨，哪个地方在下雨？有时候单纯看雷达和卫星图，是很难判断的。”
而当累计了足够多的数据，人工智能就接手了，问题也迎刃而解。“你每天晚上都标嘛，数据足够多了以后，机器就能自己标，而且越做越好，还有用户的反馈系统一起来。”
初期凭借手工积累的冷启动，成为了后期人工智能更好运转起来的基础。
“这就是为什么其他人要来做这个是非常困难的。因为你很难把时光再倒回到 2014 年，每个夜晚，再把每张雷达图每个像素降雨还是不降雨都给标一遍。而我们呢，很努力的做了这个活。而我们呢，很努力地做了这个活。”
2014 年 9 月，初版程序推出不到一年，中国气象局与袁行远团队达成合作，共同进行分钟级预报技术的研发，第二年，便联合发布了分钟级预报数据开放平台。这是前者自成立以来，少数几次与民间公司的合作之一。
同样在 2014 年 9 月，李克强总理在夏季达沃斯论坛上提出“大众创业、万众创新”，袁行远明显感到，创业正在势头上，“大家还是比较支持这件事情的。”
2017 年 6 月，彩云科技从由早期投资人、文曲星创始人周至元提供的办公住宅，搬迁到了同在海淀区的 768 创意产业园。那时的彩云科技刚刚经历 A 轮融资——来自晨兴资本（即后来更名后的五源资本）。
“当时晨兴的合伙人张斐邀请我去做一次报告，讲什么是 AI。”袁行远回忆，“他们真的是很厉害，因为那个时候是 2015 年 12 月份，AlphaGo 还没有做出来，他们就已经敏锐地意识到这个赛道是相当不错的。”
他记得对方提出，“但是天气预报被 AI 改进这件事，它是一个历史的必然。”袁行远回答，“对，就是历史的必然，但是总得有人去把必然给做了吧，那哥们儿就是我啊。”
在彩云科技，墙上贴着《三体》的海报，
书架上随意摆着刘慈欣签名版的《三体》，
每一个办公空间则都是以科幻小说里的
地点命名的，比如“星环城"是财务室
在 2017 年夏天，带着 A 轮融资搬至 768 时，彩云天气已经不是彩云唯一的产品。那一年元旦过后，一句“我是彩云小译，一个翻译 AI”宣告了公司第二款人工智能产品的推出。
尽管在当时，大众已经对市面上多款专业翻译软件有了使用习惯，但在袁行远看来，它们都是传统的。“它们是词表式翻译，或者词对词、句对句的翻译。”而基于神经网络，大规模向用户提供中英同传翻译服务的，在当时只有彩云小译一家，由 AI 驱动的同声传译和文档小说的翻译是业界空白。
“我们拉出了一个技术代差，这个东西又对大众很有用。”袁行远很自豪。他母亲是一名英语翻译，带他自小在翻译室长大。彩云小译发布后，袁行远录了一个展示“翻译黑科技”的视频，就是母亲帮他拍的。
“即使是今天，我认为我们当时拿出来的东西仍然是很震撼的。你要想，那可是在 4 年前。”袁行远眼中，翻译软件的新形态就应该是能够连续运转的，使用者不停地说，它就可以不停地翻译。
2020 年，在果壳举办的“有意思博物馆”里，
彩云小译参展，并现场展示了翻译能力
从是否下雨、几点下雨，到翻译文字的准确度、质量，衡量的维度变了，人工智能该怎样应对？
“其实都是同构的。”袁行远解释说，“计算机可以模拟这个世界的运行，它把这个世界进行一定的抽象，变成一个模拟器。”
物理的云在天上飘的同时，虚拟的云也在模拟飘动，通过对世界进行物理模拟，天气预报即是人工智能对物理演变的预测。“计算机的这套机制，和自然法则的机制是同构的，或者是类似的。这背后非常本质的，就是模拟。”
而文本，是对世界的进一步抽象。“刚才我说的数学、物理的抽象，它其实已经把世界的细节给丢掉了。现在我做得更抽象一点，比如‘一朵云在天上飘’，一共就几个字，这就是信息做了更高级别的抽象。”袁行远继续说道，“既然文本也是物理世界的抽象，计算机又可以进行抽象的模拟，那么本质上讲，我就可以用文本去模拟这个世界，它还可以继续往前演进。”
基于这个逻辑，袁行远与团队又研发了第三款产品彩云小梦，并于 2021 年初上线，主打人工智能写作。
从对已有内容的翻译，到直接由人工智能进行写作，“底层依然是对世界的模拟。”用户端所看到不停产出的文字，在他眼中，是人工智能所模拟的、世界的一帧一帧的迭代。
“很多人把整个宇宙比作一个量子计算机，那些分子原子在那不停地、一帧一帧地前进迭代。计算机当中模拟的世界也是这样，我们的语言的字也是这样。可以这样认为，这就是为什么计算机可以写小说。”
左图：彩云小梦扮演女友，
鼓励使用者做出人工智能
右图：第二天问昨天开不开心，
展现出记忆和主动发起对话的能力
从彩云天气到彩云小译，再到彩云小梦，三款产品的背后，袁行远都深度参与了算法开发工作，除了如今身上的 CEO 事务外，算法开发依然是他在做的主要工作。
在彩云小梦上线前，他尝试过几个其他的“脑洞新产品”，并不成功，因此在第三款 AI 上线前，袁行远并没有太高的预期，“最开始想的是 100 DAU，就是每天有 100 个人，然后我的目标是创造出 1 万字，因为我们平常写 800 字作文嘛，1 万字也挺多的了，就表明 AI 还是能写点东西的。”
实际情况却超出了他的预期。上线第一个小时，彩云小梦就吸引了 1000 名用户，不出半天的时间，每小时使用人数已经达到 7000-8000 千。
“当时刚好是春节前夕，到春节的时候最高一天就达到了 20 万人，每小时有 5 万人在用它写作，一个小时的产出量能够达到几千万字。”
在 B 站上，账号名为“御坂19208号”的 UP 主发布了用彩云小梦续写网络小说《斗破苍穹》的录屏，获得将近 200 万播放，而“御坂19208号”发布视频时，粉丝只有140多个。
弹幕也非常热闹
为什么选择将人工智能依次投入这三个领域？袁行远会用“两个象限”来描述自己的行事逻辑。
“首先我想做的事，就是把人工智能给做出来。实现图灵测试，以假乱真，或者另一个说法是通用人工智能（Artificial general intelligence, AGI）。那么，就要让人工智能达到一个更高的高度，我们想做的事情，就是把它往给更高的高度去推。”
“但同时，我们也希望这个东西能服务大众，能够对社会有一些帮助。”袁行远这样解释三个领域的选择逻辑。
2021 年的最后一周，由《收获》杂志旗下“收获App”主办的首届《无界》双盲命题写作大赛总决选颁奖典礼，在中国现代文学馆举行。作为特别环节，在颁奖前夜，彩云小梦与 7 位入围作者一起，根据特德·姜作品《你一生的故事》的千字开头，续写了一段 500 字的文字。
四位评委贾樟柯、李敬泽、仁科、程永新则在现场阅读，盲猜哪一篇是人工智能的作品。经过现场 50 多位观众和评委投票，大家认为最可能是机器作品的竟然是一篇人类作品，彩云小梦成功骗过人类评委，把自己的作品隐藏在了 7 篇人类作品中。
比赛前一天，另一位 B 站 UP 主“山鬼挽月”上传了名为《当让 AI 知道自己是 AI，并让 AI 续写自己的故事，我看哭了》的彩云小梦续写录屏。评论区一段获得 300 多个点赞的留言，引用了一首几年前在中文互联网上出现的七言律诗：
可怜造物已多情，犹令人工出智能。
慧器有容拼数据，二元得道若云鹏。
集成法足思维撼，推理方堪博弈胜。
试看未来真霸主，算来情感亦如藤。
以下是《WSJ.》与袁行远的对话：
《WSJ.》：最新上线的彩云小梦，跟天气预报相比，似乎提供的是一种相对小众的需求，究竟是哪些人在使用？大家用 AI 都写了什么？
袁行远 ：这个产品很出乎我的意料。现在的状态是，每天仍然能够有上亿字的 AI 内容创作产生。在 B 站上面，也有累计播放量过亿的关键词是“AI 续写”、“彩云小梦”的视频。大家形成了一种消费文化，想看看 AI 写的东西是什么样的。
前面提到的《斗破苍穹》续写，视频看上去很简单，就是我们软件的录屏——他放了这部小说的开头，让 AI 去写下面的内容，然后就有一个打斗的故事。我发现，大家觉得 AI 能够创造出这种新的形式，是很有意思的，它远远超出我的预期，形成了一种流行文化趋势。
《WSJ.》：你一开始设想的，是谁会使用 AI 来写作？
袁行远 ：最开始想的是网文作家，或是其他的作家，现在这些作家用户也占了一定的比例。
虽然在小梦之前也有辅助写作的软件，但真正让网文作家大规模使用，得达到一个门槛，这个门槛就是能挣钱。自己写千字 10 块钱，用 AI 跟人一起写，变成千字 20 块，原来一天写 6000 字，现在一天写 2 万字，字数是原来的 3 倍，质量是原来的 2 倍，就得到了原来 6 倍的收入。
做这个软件前，我对这个生态没有认知，但后来发现，一旦我们出现故障，用户就打电话、语音，各种 call 我们，说为什么用不了了？这也是出乎意料的。
还有一个我不知道的群体，就是那种喜欢用文字创造世界的人。其实网文就是创造一个新世界，但用彩云小梦会更简单，你把一个世界的故事背景、人物和人物关系放进去，AI 就会理解这个，并在框架下顺着这个世界的设定来写，也就有大量的用户产生了很多精彩的世界设定，让我大呼大家的创造力精彩绝伦。
《WSJ.》：跟训练 AI 预测天气相比，做后两个产品难在哪里？它们的复杂度显然是依次提升的，那么究竟提升了多少？
袁行远 ：难度在于文字的抽象度更高。大家都知道，一段视频可能要几百兆、一个 G，但一个文本可能只要几 k，这就体现在信息的压缩度上。
我们的真实世界可以认为是一个信息无穷多的世界，它的东西太多了，如果你用卫星在同步轨道对地球进行拍摄，把它压缩成几个 G 的东西，在这个量级上用计算机处理，你就可以做到预测天气预报这样的事情。
但如果再进一步，压成几 k，就是文字，你也可以对它进行解码和处理，但是你所需要的算力，就比之前的要高很多，因为它是高度抽象化的信息。
当然，至于怎么想办法把它解码解出来，这就是一个更复杂的问题了。
《出色WSJ.》：你将公司的 slogan 定为“人工智能让生活更美好”——既要将人工智能向更高的高度推，同时也要能服务大众，解决实际生活问题。下一款 AI 还能怎么在这两点上都前进一步？
袁行远 ：下一步来讲，可能是做一个智能体。你可以想象为做一个游戏，里面每一个 NPC 都有自己的智能，今年有个电影叫《失控玩家》，他就是讲 NPC 最后活了。其实你可以认为小梦的文本世界里面，NPC 已经有一点活着的感觉，但是它还只是存在于文本世界，我希望能把这种东西和现实世界相连接。
但与现实世界相连接太困难了，所以我们有一个中间步骤，就是让它跟游戏世界相连接。我小时候玩一个游戏叫《大航海时代》，里面的人物其实已经做得很好玩了，很让我有一种生活在一个大航海世界的感觉，但你玩久了以后，还是会发现这一切都是假的，就是《楚门的世界》，你发现只有你是真人，其他人都是陪太子读书。
但是实际上不应该是这样，国王有国王的爱恨情仇，看门的士兵有士兵的小心思，能不能有一个游戏，你可以自由度无限高，至少每一个人物都有自己的运转方式，你就会有很真实的感觉。
现在我们至少往前走了一步，就是彩云小梦，它创造出了无数个新奇的世界，在这些世界中人物可以对话，可以聊天，可以做事情，只是还不能够把它从小说当中搬出来。但是未来三五年，我们应该要把这个小说里面的人物给拿出来。
《WSJ.》：三五年就可以做到？这听起来是非常难的一件事。
袁行远 ：再后面要把它跟真实世界相连，才是更难的一个问题，那个可能就很遥远了。现在的话，你不要想那么复杂，我们可以先用《贪吃蛇》，或者是《吃豆人》，先做点简单的。
比如你有两个吃豆人，可以跟 AI 合作地吃，或者玩《炸弹人》，你可以跟 AI 讲你赶紧来，或者你快跑。也就是说除了你之外，另一个不是遵循简单的规律，而是可以吃一堑长一智的 AI。
现在的 AI，即使是 AlphaGo、AlphaStar，它还是分成两步的，一步是训练，另一步是推断。也就是说，它是训练完了再去打游戏，但是在一局里面，它的智能是不会变的，代码基本是固定的。
但是两个人打游戏，策略就是千变万化的，我还可以一边教你一边打，这就不一样了。真正的人工智能，最多被偷袭一回，下回就会多造点防空塔。这里非常重要的问题，就是它能不能在一局内边打边改。
《WSJ.》：刚刚过去的 2021 年，发生了多起由极端天气引发的灾害事件，人们意识到，自己对天气预报的需求可能不仅仅是下雨与否了。在这点上，彩云天气如何帮人更好地应对可能发生在我们身上的风险？
袁行远 ：郑州暴雨的时候，我们发放了售价 90 元的彩云天气专业版，其中包含了 1年 的超级会员使用权，一共发出价值 2000 万的 20 万个账号。我们还给郑州铁路提供了免费的天气 SaaS 服务，服务于铁路运营调度的需求。
我们也给政府的应急减灾机构提供了降雨量预估等技术服务，让他们能够比较好地决策。在下雨超过一定阈值，比如 10 mm/h 的时候，可能每一个小时都会有一条自动提醒，或者每隔几分钟就会有提醒，哪些村会有风险，精确到村镇。这也是我们做的，我认为挺有意义的事情。
《WSJ.》：现在光是 AI 写作这件事，大众的不理解，甚至骂声都始终存在。面对 AI 全面接入的未来，人们似乎没有做好准备。在你看来，大家到底需要改变什么认知，才能真正迎接未来？
袁行远 ：它就有点像我们以前打算盘，然后现在用计算机，假设我是个老会计，我双手打算盘，我在这个时代没有人比我强。这时候你突然跟我说有个 Excel，有套财务管理系统，假设是二三十年前的时候，你要怎么面对这件事情？
你就有两种选择。你拒绝这个东西，还是双手打算盘，你还是这个世界上最快的人。但是你还有一种选择就是，我认清现实，Excel 厉害，我把算盘供起来，然后开始学这个。
这是人类的不断进步，最后你会发现用 Excel 的效率，原来每天要打到晚上 11:00，现在 6:30 下班了，因为电子化办公，更快了，对吧？
甚至像一些部门，有些决策是不是就可以由 AI 来选择？防汛抗旱指挥部要决定，到底要不要泄洪？泄洪之后的利弊分析由计算机帮你计算，然后告诉你一个最优化方案。包括水库的自动调度，要不要把水库放掉，全流域水库调度打通，以及根据天气预报的自动调度，原来觉得不可想象的事情，你到底敢不敢交给机器呢？
这是大家需要的一个过程，可能还是先人机结合，把人们的一些智力工作交出去给到计算机，我觉得应该是这样一个趋势。
但是你不能抵制他，你说 AI 是魔鬼，我一定坚持用人。那就好比，算盘时代错过计算器。
《WSJ.》：如果真的由 AI 来决定是否泄洪，这就是很多人担忧的危险性问题了。从担心工作被 AI 替代，到《沙丘》里 AI 判断人类需要被奴役才能活下去的剧情，人们对 AI 安全性的这种担忧，你认为有意义吗？真正应该担忧的是什么？
袁行远 ：简单讲，我觉得不需要担忧。我们公司 slogan 是“人工智能让生活更美好”。我创造这个公司，一部分原因就是想跟这个担忧干一仗。
为什么我觉得没这个问题？比方说彩云小梦，它看过几乎全部人类的小说，最后他会形成一个小梦的写作风格。这个写作风格是什么？它就几乎可以认为是全人类的风格的一个加总。
AI 是什么，它取决于人类是什么。因为人类就是 AI 的学习对象。你担心 AI 把人类灭亡，其实你需要担心的不是这个，而是人类把人类灭亡。人类的加总就是 AI。而我对人类还是抱有乐观的态度，这个加总，总体来讲还是好的，这是其一。
其二是谁来拥有这个技术。目前来看能把它做出来的还是一个比较大的公司，比如说像谷歌，或者是比较大的国家机构，这种机构其实总体来讲还是不错的，我对他抱有希望。
具体到像我们这种小公司，也是一天可能逐步发展，说不定某一天做出强人工智能，也是可能的。我觉得如果我们足够努力，比邪恶的人率先做出人工智能，那我们会教他更好的东西，那这件事情也就不用担心了。
你没法保证别人是怎么想的，但我至少能知道我是怎么想的。我的观点就是我会努力的，我虽然是个小的登山队、探险队，但是我这个探险队假设探到这个宝藏的话，我觉得我是会教育他，让他变成一个好的下一代的。
AI 就是 human next 嘛，可以认为它是一个你的小孩，比如像我们喂给小梦的语料，我们喂给机器翻译的数据，这种培养它的过程。
你好好培养他，他还是会变成一个对社会有用的人。甚至我觉得，将来一个非常大的可能是，这个 AI 可能就去探索宇宙了，它就是一个人类的下一代，它以光速在太空里面飞，有一天遇到一个外星人，它会说：我是地球人类的后代。