请提出看法和修改意见:
有比较就好鉴别
人类制造石器工具至今已约300万年,其后,纷繁复杂的新工具及各类科技进步,给人带来诸多改进生产生活的便捷与乐趣。然而AI问世后则问题叠加。
“技术狂飊”在美国。
AI给人类带来灭绝的风险堪比核战争。知名AI研究大咖杰弗里.辛顿和350名专家、高管在5月底联署了一项共同声明,《AI将导致人类种群的衰落》,如果将重要的判断全部交由机器完成,人类获取知识、机能的动机就将减弱。声明警告说,人类早晚会因此衰落,问题何等的重大?
AI将取代人类。美国南部田纳西州,史密斯把同样的病情提供给生成式人工智能者和人类医生后,结果专家门判定“AI取得了压倒性胜利”,“没想到医生居然败给了AI”。同时,在显示信息质量高低的指数和共情能力方面,AI的得分比人类高出3.6倍和10倍。AI不会疲劳也不会烦躁,接受过专门训练的医生被AI取代似乎不可避免;美国高盛公司预测,美国四分之一的工作岗位将被机器取代。人类如今面对的是AI远远超过自身,撼动命运的技术洪流来了。AI破坏性的创新会超越人类能力极限,由技术掌握霸权的“技新世”狂飊之到来,历史将如何书写?难道是人类的终结吗!
AI在深度介入美国总统竞选。AI生成的两幅照片显示,特朗普拥抱美国防疫措施负责人福奇(见美国“临界点”网站);但图像是假的,是由AI生成的。能创造文本和图像生成式的AI,近几个月来以闪电般速度在侵入美国政治,大选候选人们现在可以通过电子邮件、短信和语音信息,在不需要高薪聘请顾问的情况下,创造超快的捐赠、请求或予以近乎即时的回应。AI这样的技术在削减成本、允许没有大量资源的候选人与资金充足的对手竞争方面显然有优势。同时,会加剧虚假信息传播,任何人都可以通过电脑操纵图像和声音,这就大大削减了人们对投票和民主的信赖--是人、还是人工智能人的选举?决心利用AI技术的共和党最近推出一则广告,展示了如果拜登再次当选总统可能遭遇多重灾难。“到2024年,每个阵营、每个组织、每个政治人物都将使用生成式AI来损害他们的对手”,世界看到的是充满虚假信息的大选,大选之忧如何解决?
美国佛罗里达大学的贾殷说,纵观历史,那些带着骑手回家的马,“你信任它们,敢于把生命托付给它们。”有灵性而训练有素的战马,会驮着受伤的军人穿越战区返回营地。贾殷由此联想到:今天,训练有素的科学家和人工智能机器人联手,形成如同自动驾驶汽车一样。贾殷又想到,探索智能机器与人相互尊重和信任在很大程度上仍是一个未知领域,即便可行,也还有一段比较长的路要走,可是“技术狂飊”不容人们作漫长的探索!
中国人视AI为向善力量。
AI无疑是全球可持续发展的强大推进技术。AI目前仍多集中在高质量教育及医疗保健方面,许多重要主题如生物多样性、气候行动及和平等还鲜有关注,发展空间大得很。发展AI应该用人类与文化来连接,要创建一个AI赋能的文化交互引擎,找出不同的联合国教科文组织、世界文化遗产之间的共同性和多样性。从这些世界遗产中,我们发现文化并没有割裂,存在着许多的共同性,而这些共同性是重要的根基,它能够帮助我欣赏和理解彼此、学习互鉴。
7月6日至8日在上海举办了2023年世界AI大会。大会吸引400多家企参展及数十万现场和在线参观者。展品令观众惊叹,包括大语言模型、做咖啡的服务机器人、能实施精准外科手术的机器等。与会商界高管、学者、决策者分享对AI技术趋势的洞见,并讨论与AI伦理和治理有关的问题,大会主要目的是凸现AI的益处。人形机器人在新闻发布会上保证,它们不会背叛人类或窃取人类岗位。
我们必须确保所有人工智能赋能的武器系统都在人类充分、有效和负责任的控制之下。例如,需避免人机交互中的认知过载。我们必须防止AI赋能的武器系统扩散,因为相关技术很可能被恶意使用。无论是短期还是长期的人工智能都有威胁人类的风险,它的存在决定了我们不太可能在今天就解決AI赋能和平与安全问题,这与控制核武器会伤害人类似,不可能一蹴而就类似。但讨论这个问题是一个良好的开端,可以在联合国安全理事会层面建立一个AI赋能和平与安全工作组。AI的创造是为了帮助人类解决问题,而不是创造更多的问题。包括联合国安全理会常任理事国在内的许多国家已经宣布了AI安全和治理的政策,或者发表了观点,其中有许多共性,这是国际共识的体现,但还远远不够。在国际层面,联合国需要发挥核心作用,建立AI发展和治理框架,确保和平与安全。作为人类命运共同体,各国需要一起努力建立好这个议程和框架,不使任何一个国家掉队。
益普索公司2021年的调查显示,78%的中国受访者认为AI利大于弊,在所有受访国中占比最高。美国拥有世界领先AI企业,但对其持欢迎态度的仅35%,这个结果难免令人惊讶。中国政府利用AI作为改善民众生活的基础设施,消费者的手机APP都使用AI,人们对它就习以为常了。
德勤发布的一份报告显示,受访的六个国家中,中国消费者对自动驾驶汽车的信赖比最高。中国城市正使用AI赋能的交通控制系统,以帮助减少拥堵并识别安全隐患。众多的AI消费实用价值,使人们不会因爆炸式增长让人感到害怕。
目前的人工智能,包括最近的生成式人工智能,其实都是信息处理工具,还不具备真正的信息理解能力,不是真正的智能。因此它们无法代替人类做决策。
安理会7月18日首次开会商讨应对AI挑战。
联合国秘书长古特雷斯警告说,AI可能对全球和平与安全构成威胁,他呼吁所有会员国紧急设置护栏,以控制这项技术。中代表张军发言表示,人工智能是“双刃剑”“它是好是坏、是善是恶,取决于人类如何利用、如何规范、如何统筹发展与安全”。张军提出五项原则:“伦理先行、安全可控、公平普及、开放包容、和平利用”。“中国愿同国际社会一道,在人工智领域积极落实习近平关于“全球发展倡议、全球安全倡议、全球文明倡议”,坚持发展优先,维护共同安全,促进跨文化交流合作,各国携手共享人工智能技术成果,共同防范和应对风险挑战。张军如此表示。
“AI是一种没有边界的技术”。目前AI在全球治理合作方面主要受制于西方国家和发展中国家对于AI的治理责任认定及各国在人工智能产业上的竞争问题等。美西方国家在AI领域的发展较快,但不肯与所有国家平等商讨、共同承担责任,因而在AI智能产业竞争中,由于地缘政治的影响,美西方国家试图限制一些国家在AI上的发展,比如“在美西方寻求限制中方正当发展权益的情况下和它们进行合作是当前面临困难之一”。从实际情况来看,AI治理议程交由联合国或其他具有代表性的机制来推进,各国的接受度会更高,发展会更好。但这有障碍。
说到底,世界上的种种问题都需要在人类命运共同体的旗帜下进行商讨,形成共识以便共享,即可推动人类一同进步!
感言:AI在中美之间发展及认可的不同,根本问题是为什么人、靠什人以落实伦理先行的问题!
本文除感言外都取材于《环球时报》《参攷消息》。
2023年7月21日