【效率-目标-价值观-感情-意识】手机就是老虎机、次要目标取代首要目标（万维钢·精英日课S2 018-020）水果老虎机游戏

　　怎么设计才让人听你的去做一件事？（1）这个人必须想做这件事，否则就成了骚扰；（2）这件事这人有能力做到，事情越简单越好；（3）你得提醒他做这件事，这就是广告做的事。

　　一般商家都在吹捧自己，可是改变别人意愿非常困难。

如果你的东西有很多潜在的用户，如果很容易能买到，将会事半功倍。

　　【案例】美国总统大选，很多人有政治立场，懒得花时间投票，与其整天打广告，不如派个车去接选民去投票。

很多银行的网站。

　　如何让用户上瘾？首先是让用户第一次接触你的产品和服务时留下一个好印象：【案例】头等舱刚坐下时的空姐和香槟；苹果产品的开箱和开机体验。

其次是让用户经常获得成就感：【案例】微信的回复、点赞和微博、知乎的粉丝，会给人带来一次愉悦的情感波动。

　　【变换奖励原则】大杀器：奖励随机化——游戏奖励的随机化。

赌场老虎机。

开箱奖励。

微信收到点赞时间的不确定性。

新型老虎机：让你看到结果是差一点就中，而实际其发生的概率远高于正常机器的理论值。

　　所有人都在争夺你的注意力，让你多花时间在他们身上。

让人上瘾，就是行为设计学的最核心目标。

手机就是老虎机。

　　每次都以繁殖为目标做一番利弊计算就太麻烦了，所以演化给我们提供了一个功能，叫做“感情”。

所有感情本质上都是思维快捷方式——本能反应，不用每次都费力计算一番。

　　现在人类行为的首要目标，已经从生理上的繁殖变成心理上的情感，人类行为已经不再是为了人类的生存而优化的了。

　　如果连你都不知道人生的大目标应该是什么，那你怎么能让AI知道呢？让AI做事的时候，我们都给它一个明确的目标。

而当AI发展壮大之后，它会不会创造性地完成你的任务？AI如何找到这个度？如果人的初心都可以被忘记的话，你怎么能确保AI不忘初心呢？

　　不管为了什么首要目标，AI都有这四个需求：自我保护、获取资源、获取信息、满足好奇心。

不论AI的首要目标是什么，它们的次要目标似乎是比较清楚的，而这些次要目标很有可能会取代首要目标。

　　意识是目前为止人和机器的一个本质区别，机器没有主观体验。

意识给了我们自我和活着的感觉。

正因为人有意识，有主观体验，才有人权问题，才有道德问题。

如果将来讨论对待AI是否需要道德，大概根本判断标准是这个AI有没有意识。

　　如果机器的结构不允许意识存在，就算你死后把思想上传到机器人身上，也只不过是个假装的你而已。

AI研究的最高级别问题，就是意识。

　　【例如】一边走路一边吃东西一边说话，走路动作、路况判断、如何吞咽和咬哪里，这些行为都是自动无意识的，就像自动驾驶汽车。

大概只有你说的话是真正有意识的，二期很多遣词造句还是不假思索就脱口而出。

　　【例如】人脑每秒接收1000万比特信息，人能有意识处理信息大概只有10-50比特。

绝大部分信息被我们自动处理和忽略掉了。

你的眼睛每时每刻都在看一部高清电影。

　　人的自动行为和有意识行为之间，并不存在一个明星的界限。

不熟练的事情有意识地做，一旦熟练就变成自动化无意识的了。

【例如】学开车到老司机。

　　人脑中2/3的神经元都在小脑里，但小脑已被证明并不参与意识。

脑干负责你的呼吸和协调很多活动，但它也不参与意识。

　　声音信号传递时间比视觉信号更快，因为我们解读一个视觉信号要花更多时间。

意识反应受到距离影响，腿上传递信号的速度比眼睛传递慢，因为距离更远。

　　如此说来，人体并不是一整台计算机，而是很多台计算机的联网。

意识只存在大脑深处某个区域，而身体各部分都有自己的智能。

　　朱利奥·托诺尼：整体信息论integrated information theory。

这个理论号称能识别什么东西有意识。

　　一个有意识的系统必定是一个不可分割的整体。

系统信息整合程度：一个量化指标，衡量系统是否有意识。

　　IIT要求信息高度整合，组成AI各部分之间要有很多横向的信息交流。

如果太阳系联网组成一个有意识的大AI，那么它的意识反应速度将会非常慢，光从太阳走到地球要花八分钟。

这就意味着，不管技术先进到什么程度，也不可能出现一个神级AI直接统领一个星系。

它必须把权力下放，设置代理人。

　　所有效率最终归结于目的，所有目的最终归结于价值观，所有价值观最终归结于感情，所有感情最终归结于意识。

有了意识，世界才有了好坏，才有了幸福和意义。

不是宇宙给了生命意义，而是有意识的生命给了宇宙意义。