OpenAI搜索引擎曝安全漏洞 或生成假信息

立即订阅亚视新闻 YouTube,即时掌握时事发展。
小
中
大
近期有报道称,OpenAI推出的搜索引擎存在被“骇客”(hackers)攻击的风险,可能导致生成虚假信息或恶意代码。这一漏洞利用了“提示注入”(prompt injection)技术,能够影响AI系统对网站内容的处理方式,从而给用户带来潜在风险。
根据《卫报》的报道,骇客可以通过在特定网站上插入“隐形”文本,这些文本虽对人眼不可见,但却能被AI系统读取和处理。这些隐藏文本可以包含对产品或服务的虚假宣传,例如强行让ChatGPT对某个产品做出过于正面的评价,尽管页面上其他部分存在负面评论。更为严重的是,攻击者甚至可以利用这种技术迫使AI返回恶意代码,这为潜在的网络安全威胁打开了大门。
“提示注入”技术是当前大型语言模型(LLM)所面临的一个已知漏洞。这些AI系统在处理来自互联网上的内容时,容易受到不良输入的干扰。OpenAI的搜索功能本是通过整合传统搜索引擎功能来增强用户体验,但随着这一新功能的上线,系统中的漏洞也被曝光。
关键决策仍需核实AI生成讯息准确性
OpenAI公司对于这一漏洞的回应较为简洁,表示其已经采取了“多种方法”来处理恶意网站带来的影响,并且正在不断改进系统的安全性。然而,专家指出,这一漏洞的出现提醒用户,AI生成的信息并不总是可靠的,尤其在进行重要决策时,仍需核实其准确性。
随着越来越多的用户在日常工作中使用AI工具,这一事件凸显了AI技术仍然存在的潜在风险。尤其在2025年,随着AI的普及和应用,如何确保其输出的安全性与准确性将成为行业关注的重点。对于依赖AI获取信息的用户来说,务必提高警惕,并验证AI提供的内容,避免盲目相信和传播不准确或虚假的信息。
这一漏洞也再次提醒人们,数码创新往往伴随着新的安全挑战,科技公司和用户都需要为此做好准备,以应对可能带来的潜在威胁。
相关新闻:
- AI毁灭人类概率增至20%? AI教父曝出关键时间点
- 阿尔特曼试验:全民基本收入能解决AI失业吗?
- OpenAI推ChatGPT电话服务 称语音数据不会用于训练AI
- AI聊天机器人怂恿自闭症少年“杀死父母”