正确的提示信息
扫码打开虎嗅APP
从思考到创造
打开APP
资讯
视频
车与出行
年轻一代
十亿消费者
前沿科技
财经
娱乐淘金
医疗健康
文化教育
出海
金融地产
企业服务
创业维艰
社交通讯
全球热点
生活腔调
榜单
虎嗅视界
24小时
活动
妙投APP
虎嗅智库
登录
极速注册
取消
搜索历史
删除
完成
全部删除
数码
互联网
数码
互联网
热搜词
VR
Llama
元宇宙
酒店
奶茶
微软
科技公司
钠电池
储能
账号或密码错误
2014-08-04 10:45
霍金、马斯克,示警人工智能危险
Eastland
“钢铁侠”、“火星人”,缔造了特斯拉汽车和SpaceX火箭的埃隆·马斯克是如假包换的“科学狂人”,可喜的是马斯克有足够的理性来驾驭自己的狂放。
上周未,马斯克在Twitter上表示,“我们要非常小心人工智能,它可能比核武器更危险。”就在今年早些时候,马斯克接受访谈提到詹姆斯·卡梅隆30年前的经典之作《终结者》。他说“那绝对是人类会极尽所能去避免的情形。 既然已有这样的警示电影,我们必须要小心。“
史蒂芬·霍金也是人工智能的示警者,在接受HBO访谈时,他说“人工智能可能是一个‘真正的危险’。机器人可能会找到改进自己的办法,而这些改进并不总是会造福人类。”
对人工智能持乐观态度者的典型信念是”人类不可能被人工智能超越,因为我们可以利用人工智能来加强自己。不会出现我们和机器对抗的局面。通过与智能产物融合,人类可以加强自己的能力。”这种想法过于想当然了。假如发明枪支的人们说“枪支是对付豺狼、猛兽的,可以让人类变得更强。不会出现用枪支伤害同类的局面……”回过头来看这些信誓旦旦不可笑吗?
有史以来,几乎所有尖端技术都最先被用于战争,人工智能亦会被优先用于杀戮。与普通的枪炮乃至核武器相比,这个系统会不断学习提高杀人效率,会自我修复、升级,会千方百计维持能源供给……制造者有把握控制它们吗?谷哥的工程师就能吗?抑或制造者本身就是反人类恶魔怎么办?
其实,生命体与非生命体的本质区别在有无求生本能。所谓求生本能就是对自己生命的爱,从这种爱可以衍生出贪婪、恐惧等情感。从小小孩童的好奇心到太空探索,根本的驱动力都是求生本能。太空飞船再复杂,没有求生本能就不是生命体,而是机器。单细胞生物再简单,有了求生本能就是生命体。 抗菌素是细菌产生的毒素,以杀死其它细菌,独霸生存环境及营养物质。
对人工智能来说:不给求生本能,它就不可能完全象人一样思考,终究是机器。给求生本能,让它们懂得爱自己的“生命”,人类对它们有何价值?机器需要人类为它做饭、打扫房间吗?试图关掉电源,终结机器“生命”的人会不会被能够“察言观色”甚至有了“直觉”的机器先发制人地终结?
好在人工智能不可能一步到位,当“终结者一代”出现时,来不及造成多大恶果就会被人类轻易终结。但愿那时候微软、谷哥的工程师们可以正视霍金、马斯克们的警示。
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文
频道:
前沿科技
支持一下
赞赏
0人已赞赏
分享至:
3
大 家 都 在 看
机器通过”图灵测试“:人工智能的时代已经到来
tonystark99
14:22
#5分钟科普
我们的世界不“实在”
空间一号
人工智能终将不受人类控制?只差一个临界点
hwl311
人工智能,面临两大根本性问题
Eastland
人工智能距离消灭人类还有多远?
郝小亮
人工智能即将掀起投资热潮, 百度或将继续引领?
土匪大叔
最强AI“ChatGPT”,让人类焦虑了吗?
知著网
如何不让我训练的AI杀了我自己?
果壳
AI时代的智能迷津
经济观察报观察家
欢迎来到乱纪元:关于人类未来的十点狂想
姬十三
尤瓦尔·赫拉利:无需发展出意识,AI就能威胁人类文明
未尽研究©
18:30
#AI有多智能
人工智能还是人工智障?浅谈AI的俄狄浦斯情结
怪咖鱼头
42:00
#征途是星辰大海
人类未来50年,科技发展大预测
李自然说
15:05
#高新技术流
资本入场“脑机接口”,人类大脑开始内卷
麻雀商业评论
26:13
在科幻作家眼里,地球是怎么毁灭的
造就Talk
14:21
#AI有多智能
人类还管得了人工智能吗?
虎学研究
03:57
2020,我们终于到达科幻片里的“未来”
收了Sola
07:34
#5分钟科普
《沙丘》里点歪的科技树,未来有一天会实现吗?
茼蒿会
11:39
#AI有多智能
第一个赛博化人类的诞生与未来技术大融合
图灵的猫
09:15
#高新技术流
世界最强人形机器人能干啥?
吟游诗人基德
大 家 都 在 搜
VR
Llama
元宇宙
酒店
奶茶
微软
科技公司
钠电池
储能
APP内打开
好的内容,值得赞赏
您的赞赏金额会直接进入作者的虎嗅账号
自定义
支付:
元
匿名赞赏
支付