来源：新华网

新华社伦敦5月9日电 英国《自然》杂志网站日前发表文章说，训练人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供

文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷

一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。

文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。

《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。

• ·《从投入到产出：金融科技驱动银行业务增长的价值与路径研究》课题发布：为科技赋能锚定投入价值产出的度量
• ·内蒙古一游乐场蹦床破裂，女孩从2米空中坠落，园区回应
• ·填补世界空白的“大国重器”正式上岗！
• ·江淮观察|猪肉价格调查：生猪价格下跌，为什么肉价“没怎么降”？
• ·和讯信息余荣卓：为何反复跟踪PCB的电子布？4次涨价背后藏着哪些逻辑？
• ·多措并举守护森林资源安全 荆州去冬今春森林防火实现“零火情”
• ·涉嫌严重违纪违法，倪德龙被查
• ·【树立和践行正确政绩观·办实事在行动】智慧终端进驿站 法律咨询“指尖办” 公安县“法援护新蜂”护航新就业群体
• ·今天起，穿衣调整一下
• ·【树立和践行正确政绩观·办实事在行动】荆州经开区联合街道：改造污水管道 畅通居民“心路”
• ·中国造船业一季度成绩单来了 新接订单快速增长
• ·过去24小时没有大型商船通过霍尔木兹海峡
• ·涨停刷屏！A股，彻底爆发！外资巨头，集体发声！
• ·伊朗外长：美国破坏性做法正在削弱外交进程
• ·热热热，最高33℃！成都开启升温模式
• ·肯尼亚一金矿坍塌至少10人死亡