奶咪naimi福利最全合集:糖心logo白桃-谷歌前CEO:当未来AI能够实现自我提升时,人类应当小心
谷歌前CEO警告称人类应该准备好在某些时刻关掉AI(人工智能)的电源。
当地时间12月15日,谷歌前CEO、执行董事长埃里克·施密特(Eric Schmidt)在接受外媒采访时表示,尽管AI的出现是一项值得庆祝的人类成就,当AI系统能够实现“自我提升(self-improve)”时,人类“应该认真考虑切断其电源”。
施密特表示,AI系统发展速度如此之快,有可能会带来“人类生存方面的问题”:“看看社交媒体,它已经为我们的国家和全球带来了多么剧烈的变化。再想象一种更智慧、更强大的技术,可以用于传输信息、研发创新、药物开发,再到各种负面的用途,包括作为武器或用于网络攻击。这一切的速度都非常快。”
施密特指出,在他从业的50多年时间内,他从未见过任何技术展现出和AI一样快的创新增速,也许在未来的1至2年内就会出现能够独立做研究的AI系统,也就是所谓的“AI科学家”。发展到一定阶段后,AI就相当于为每个人都配上一位随叫随到的专业大师,“只是我们不知道每个人都拥有这份力量后会带来什么”。
施密特一直公开呼吁人们重视AI的潜在危险。在本次采访中,施密特再次强调了政府监管AI的重要性,称在当下如此激烈的AI竞赛中,不排除“某一家公司会选择为了速度,跳过所有的安全步骤,放出造成真正伤害的AI模型”。
施密特还谈到,政府和技术人员应该提前预想最坏的情况,准备能够监督AI系统的备用系统,这样在人类无法管控AI的情况下,AI就可以互相管制。
资料显示,施密特于2001年至2011年期间担任谷歌CEO,并在董事会任职至2019年。目前,施密特在彭博亿万富豪榜上以365亿美元的身家排在第46位,他仍然是谷歌母公司Alphabet的股东,持有约1.47亿股Alphabet股票。
值得注意的是,不久前,谷歌现任CEO桑达尔·皮查伊(Sundar Pichai)刚刚发表了和施密特十分不同的观点,认为AI已经得到了足够的监管。
12月初,在纽约举行的DealBook峰会上,皮查伊表示,他对AI的潜在影响“肯定持乐观态度”,并认为现有的监管已经涵盖了许多AI应用:“例如,你无法在没有经过所有监管审批的情况下引入一种疾病治疗方法。仅仅因为在这个过程中使用了AI,并不意味着一切都会发生改变。所以我们必须谨慎地考虑,是否真的需要增加任何额外监管。”
就在一周前,面对竞争对手OpenAI连续12天的更新计划,谷歌宣布正式推出新一代大模型Gemini 2.0,速度比Gemini 1.5 Pro快两倍,拥有多模态输入输出和更多智能体功能,包括编程助手、数据科学代理、游戏伙伴等等。