大家都知道,最近人工智能(AI)比较火,AI也被应用到多个领域,而“ChatGPT之父”等AI领域的行业高官警告称,AI可能灭绝人类。下面大家就和腾阅网小编一起了解一下ChatGPT之父警告AI可能灭绝人类。
ChatGPT之父警告AI可能灭绝人类
财联社5月31日电,超过350名人工智能(AI)领域的行业高管、专家和教授签署了一封公开信,他们在信中警告称,AI可能给人类带来灭绝风险。这封信于周二发表在非营利组织人工智能安全中心(CAIS)的网站上,签署者包括“ChatGPT之父”Open AI首席执行官山姆·奥特曼、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管等。这封信只有一段话:“减轻AI带来的灭绝风险,应该与流行病和核战争等其他社会规模的风险一起,成为全球优先事项。”
警惕AI技术背后的隐蔽角落
换脸、变声,移花接木,以假乱真……当前,AI技术正在以势不可挡的趋势,创造数字技术生活,为社会带来深刻影响和变革。
然而,在AI技术被广泛应用于各领域的背后,存在着隐蔽的黑暗角落。不法分子利用AI技术进行违法犯罪,对社会安全构成威胁。公安机关在对此类犯罪给予高度关注的同时也向公众发出预警。
从眼下已经出现的利用AI技术实施电信网络诈骗犯罪活动来看,其主要表现为下面几种形式:一是骗子用AI换脸技术,伪装成受害人的熟人、朋友,通过视频通话,进行信息确认,骗取受害人的信任;二是骗子通过骚扰电话录音等来提取声音,获取素材后,利用AI技术进行声音合成,然后用伪造的声音欺骗受害人;三是骗子利用AI技术分析公众发布在网络上的各类信息,根据所要实施的骗术对人群进行目标筛选,个性化定制诈骗脚本,从而实施精准诈骗。
但也有业内人士指出,目前的AI换脸技术若做到融进视频通话中,并达到不卡顿、肉眼难以识别的真实质感,在技术上并非易事。同时,AI换脸换声技术如果被用于诈骗,骗子还必须对被换脸人的外貌、声音、行为习惯、思维方式以及和受害人之间的关系等非常熟悉,否则很容易露出马脚。
当然,技术本身无好坏,关键在于如何利用。AI技术的应用必须符合国家的法律法规以及社会伦理规范。为规范AI技术的合法合规使用,今年1月开始施行的《互联网信息服务深度合成管理规定》,对人脸生成、替换、操控,合成人声、仿声等都有明确约束;今年4月,国家互联网信息办公室发布《生成式人工智能服务管理办法(征求意见稿)》,对AI伪造进行了全面规定。
我国各地公安机关出重拳、全链条严厉打击利用AI技术实施违法犯罪行为。同时,对社会公众来说,针对“变脸”“变声”诈骗,一定要提高防范意识,不轻易向他人提供人脸、指纹等个人生物信息,不在社交平台过度分享个人的动图、视频,一旦发现自己有被骗风险,及时报警求助。
归根结底,在使用AI技术时,要因势利导、趋利避害,坚守法律和道德的底线,使其更利于人类社会的进步发展。