点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:“龙虾悖论”怎么破?
首页> 科技频道> 综合新闻 > 正文

“龙虾悖论”怎么破?

来源:人民日报海外版2026-03-23 09:14

AI生成的“龙虾”示意图。

  2026年开春,一只“红色龙虾”悄然爬上了全球千万台电脑的桌面。

  这不是餐桌上的美味,而是一款名为OpenClaw的开源AI智能体。因其图标是一只鲜红的龙虾,训练这款AI,就被网友戏称为“养龙虾”。

  相较传统AI聊天机器人,这只“龙虾”能做的事多得多:接管键盘鼠标、自动整理文件、起草邮件、填写表格、分析数据……一句话,不仅能“动嘴”回答,更能“动手”执行,俨然一位不知疲倦的数字员工。

  于是,“龙虾”瞬间点燃了全球开发者的热情。开源平台GitHub上,其星标数短短数月内突破25万,成为最受瞩目的开源项目之一。

  但就在无数人欢呼“生产力革命”到来时,质疑声也越来越多:有人账户里的钱被悄悄转走,有人电脑被黑客远程控制,还有人积累了多年的工作文件被一键清空……中国工业和信息化部、国家互联网应急中心等机构接连发布安全风险预警。

  这就形成了一个“龙虾悖论”:想让它做的事情越多,给它的权限必须越大;权限越大,安全风险就越高。这个“悖论”怎么破?记者进行了采访。

  安装易,用好难

  装“龙虾”,只需点击几下。但真正用好它,却是一道难度不小的综合题。

  小水智能CEO孙雪峰是最早一批“龙虾”使用者。第一次使用时,孙雪峰雄心勃勃,“上来就派了一个大活儿”,让“龙虾”比照一个全球知名论坛,从头搭建类似平台。“当它开始一步步向我汇报进展时,我觉得肯定没问题。”孙雪峰说,结果验收时傻了眼:除了一堆空文件夹,什么都没有。

  “我当时特别失望。”孙雪峰说,“后来我才想明白,不是‘龙虾’不靠谱,是我没有真正理解它,也没学会怎么使用。”

  “这款AI放大的是每个人的原有能力,但不能凭空给人增加能力。”一人公司创业者、声序智能创始人王钰博告诉记者,许多人安装是出于好奇或焦虑,而非明确的痛点需求。她自己也踩过坑:一次让“龙虾”修改代码,却忘了指令“完成后重启服务”,结果卡壳数小时。

  “使用者需要对预期结果有清晰判断,再把权限交给AI,否则用户没有及时掰正方向的话,AI就会按自己认为正确的方式走下去,出问题也不知道怎么修。”王钰博说。

  如果说“不好用”带来的是挫败感,那么“不安全”带来的则是实实在在的损失。有用户因服务暴露在公网上,且浏览器保存了自己的信用卡信息,导致卡片被盗刷;Meta公司的AI安全负责人Summer Yue则曾眼睁睁看着失控的“龙虾”飞速删除了自己邮箱中两百多封邮件。

  北京哪吒互娱创始人苏魁坦言,之所以迟迟未敢出手安装“龙虾”,就是顾虑于安全风险:“你想让它帮你做的事情越多,给它的权限就必须越大,万一失控,捅的娄子就越大。”

  腾讯云安全副总经理、AI Agent安全中心负责人谢奕智告诉记者,当前龙虾等AI智能体(Agent)主要存在两大典型安全风险:一是系统稳定性风险,AI不可控的行为可能导致系统崩溃;二是核心密钥泄露风险,为保障AI执行能力需授予密钥权限,攻击者可通过诱导式提示词,致使密钥被直接泄露。

  缺乏审核的第三方插件(Skills)也是风险重灾区。据国家网络与信息安全信息通报中心通报,对3016个技能插件的分析发现,有336个插件包含恶意代码,占比高达10.8%。

  一道清晰的“分水岭”已出现。“养龙虾”成功的用户,大多遵循“最小权限原则”,往往在沙箱中隔离测试,对高风险操作,设置人工确认环节;失败者,则往往对新事物的风险预估不足,一兴奋就交出全部权限,从而陷入被动。因此,决定“龙虾”实际价值的,首先是使用者的安全意识和数字素养。

  是帮手,不是万能

  “养龙虾”热潮激起的波澜很快超越产品本身,演变成关于AI发展方向的讨论。

  力挺“龙虾”的人认为,该产品代表了未来方向。今年全国两会上,全国政协委员、中国科学院计算技术研究所研究员张云泉就表示,现在“养龙虾”创业流行,OPC(一人公司)发展势头很猛,未来大家都要加强学习,使用智能体工具。支持者认为,真正的风险就是错失新技术。

  苏魁向记者讲述了自己的“转变时刻”:一次直播演示中,“龙虾”的长期记忆和自主运行能力打动了他,他随即为公司配了两只“龙虾”,一只“主内”充当“主管”,一只“主外”负责每日内容宣发,结果也很好:每日新增10—20名用户,付费用户月增长3—5倍,而每月总成本不过60元。

  在苏魁看来,“龙虾”改变的不只是效率,更是单人创业的可能性边界:“人的能量有多大,不取决于有多少钱,也不取决于专业能力多强,而取决于创意能力如何。只要创意够好,再加上一群数字员工配合,就可以做大事业。”

  “AI相当于我的多个员工,前端、后端、运营宣发,跟我组成团队。”作为一人公司创业者,王钰博这样描述道。她有多年民乐经验和AI开发背景,用“龙虾”搭建了一个民乐曲谱转换平台。在她看来,AI填平了算法工程师和产品开发者之间的技能鸿沟,可以帮助她推进复杂项目。

  也有相对冷静的观点。孙雪峰认为,“龙虾”目前还干不了两类事:一是财务与决策,还需要时间建立新标准、新安全规范,因为人类除了干活能力,还承担法律责任与社会责任;二是任何需要人和人当面完成、带有情感交互的场景,AI还替代不了。

  王钰博则认为,“龙虾”能协助的是执行层,判断层依然是人的地盘。她打了个比方:家里买齐了锅碗瓢盆、各式铲子和微波炉,不代表这个人就能成为好厨师。AI是工具,能不能用好,关键在人。

  机构的态度更为审慎。目前,北京大学、安徽师范大学、珠海科技学院等多所高校已经发布预警,要求师生关注使用风险,一些高校严禁在处理教学科研数据、行政办公信息等核心场景中使用“龙虾”,有的甚至要求已安装者立即卸载清理。

  谢奕智表示:“担忧是对的,但风险并不来源于技术本身,主要集中在权限滥用和恶意插件引入这些环节。关键是做好安全管控。”

  不必恐慌,也别盲目

  面对“龙虾热”,包括监管部门在内,各行各业都在快速作出反应。

  工业和信息化部、国家互联网应急中心分别发布“龙虾”安全风险警示,明确提出“六要六不要”,点明“提示词注入”、“误操作”、功能插件(skills)投毒、安全漏洞等四类严重风险,并提出强化网络控制、加强凭证管理、严格管理插件来源、持续关注补丁和安全更新等相关建议。这体现了监管层对AI新工具“包容审慎”的态度——既不一刀切封堵,也不放任自流。

  安全正成为新的竞争维度。“龙虾热”不仅催生挑战,也带来新的市场机会。一些网络安全公司推出针对AI智能体的防护方案,例如腾讯云等已推出AI Agent安全中心,提供插件安全扫描、行为全流程审计、密钥沙箱隔离等安全防护。“现在很多国内企业部署AI Agent,首要问题就是安全性够不够。安全不是可选项,而是必答题。”谢奕智说。

  普通人应当如何面对“龙虾”为代表的AI热潮?受访者们给出的建议相对一致:不必恐慌,也别盲目。谢奕智建议,如果日常工作重复性高、偏流程化,可以尝试小范围试点应用AI Agent,严格做好权限管控,循序渐进把风险逐步降到最低;苏魁则表示最好是有长期的AI需求,如果今天想用明天又不用,“龙虾”就不太合适。

  总之,真正决定AI工具是“神器”还是“灾难”的,往往是人的认知是否能跟上工具迭代。每一次技术迭代,都是重新平衡效率和风险,也对用户的数字素养、安全意识等提出更高要求。说到底,要让工具创造价值,首先要具备真正驾驭工具的能力。韩维正 赵文博

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 西康高铁沿线车站挂牌

  • 中国妇女事业发展成就图片展在莫斯科举行

独家策划

推荐阅读
“遥感是人们在距离和感官上的延伸,是认知地球、探查资源、监测环境的重要技术手段。本次活动由全国科学道德和学风建设宣讲教育领导小组主办,中国科协科学技术传播中心、湖南省科学技术协会、中南大学、光明网联合承办。
2026-03-20 09:42
每年春季,花粉过敏会给不少人带来困扰。该检测试剂盒采用微量血清特异性洋白蜡花粉过敏原IgE定量检测,用以辅助诊断,成为目前用于花粉症精准诊断的主要方法。
2026-03-20 09:39
3月18日,记者从新疆电力交易中心有限公司获悉,自2010年启动“疆电外送”以来,新疆累计外送新能源电量已达3043.6亿千瓦时,约占总外送电量的三成。
2026-03-20 09:39
吕小康:从现实语义上看,情感AI既指能够识别、理解、模拟和响应人类情感的人工智能技术,也指基于这类技术设计和开发的情感智能体。吕小康:为引导青年群体健康使用情感AI,还需要进一步加强协同治理,培育积极有益的陪伴型人工智能应用环境。
2026-03-20 09:36
据3月17日农情调度,全国早稻育秧已三成半,同比略快。据介绍,北方冬小麦当前的田管重点是继续促进弱苗转化升级,抓好病虫防控,防范春旱、倒春寒、干热风等灾害。“近日国家启动投放1000余万吨氮磷及复合肥储备,作为国家化肥储备重要承储主体,全国供销合作社系统农资企业积极按要求将储备化肥及时集中投放市场,稳定市场价格。
2026-03-20 09:36
小时候我们背过一句话:万物由原子组成。这一路走来,从质子的异常,到夸克模型的提出,再到量子色动力学和标准模型的建立,人类把物质拆解到了17种基本粒子的层级。曾获国家六部委回国人员成就奖、德国洪堡研究奖、吴有训物理奖、中国科学院优秀研究生导师奖。
2026-03-20 09:35
吴晓民(右一)团队在野外工作。藏羚羊曾广泛分布于高原全境,其漫长的演化史与复杂的种群波动,始终是全球动物保护与演化生物学领域关注的焦点。研究团队还通过生态位模拟,锁定了藏羚羊的生命庇护所——青藏高原北部的可可西里、羌塘高原等区域。
2026-03-19 10:11
通知明确,各城市群应优先选择具备条件的燃料电池汽车、绿色氨醇、氢基化工原料替代、氢冶金以及掺氢燃烧等应用场景开展试点,积极探索氢能创新应用场景,形成“1个燃料电池汽车通用场景+N个工业领域应用场景+X个创新应用场景”的氢能综合应用生态。通知要求,氢能综合应用试点以城市群为主体开展申报,城市群应立足自身资源条件,因地制宜、宜氢则氢,避免各场景一拥而上、低水平重复建设。
2026-03-19 10:10
2026中关村论坛年会将于3月25日至29日在北京举办。
2026-03-19 10:04
日前发布的《中国地热产业发展报告2025》显示,我国地热产业多元化利用格局正在形成。在地热供暖发展带动下,我国地热产业规模长期稳居世界第一。
2026-03-19 10:00
由于土豆块茎外形粗陋、埋于地下,又不见于《圣经》,一度被殖民者视为“魔鬼之根”或带毒之物。另一方面,随着城市扩张与人口增长,粮食压力加剧,土豆因高产、耐寒、适宜在小块土地种植而被人们重视。
2026-03-19 10:00
作者:刘琦 仇焕广(分别系中国人民大学助理教授,辽宁大学党委常委、副校长)  今年《政府工作报告》提出,“推进先进适用农机装备研发应用,打通农业科技推广‘最后一公里’”。
2026-03-19 09:59
为此,生态环境法典针对重点流域、重要生态单元设置专门规范,明确长江、黄河等重点区域一体化保护要求,建立协同机制。生态环境法典第三编第六章“生态退化的预防和治理”,整合水土保持法、防沙治沙法的有关规定,分为水土保持、防沙治沙两节。
2026-03-18 09:38
“‘两弹一星’不是孤立的科技突破,而是面向国家需求‘从0到1’的科技创新。本次活动由全国科学道德和学风建设宣讲教育领导小组主办,中国科协科学技术传播中心、安徽省科学技术协会、安徽农业大学、光明网联合承办。
2026-03-18 09:27
对于1型糖尿病患者而言,胰腺中那些负责分泌胰岛素、调节血糖的胰岛β细胞,被自身免疫系统错误地当成了“入侵者”,日复一日地遭受攻击,直至彻底损毁。这3个病例,分别代表中国乃至全球再生医学领域的3个“首次”——世界首例自体、中国首例异体、世界首例青少年再生胰岛移植治疗1型糖尿病。
2026-03-18 09:27
记者3月17日从国家能源局获悉,2026年1至2月,全社会用电量累计16546亿千瓦时,同比增长6.1%。从分产业用电看,第一产业用电量223亿千瓦时,同比增长7.4%;第二产业用电量10279亿千瓦时,同比增长6.3%,其中,工业用电量同比增长6.4%,高技术及装备制造业用电量同比增长10.6%;第三产业用电量3231亿千瓦时,同比增长8.3%,其中,充换电服务业、互联网数据服务业用电量增速分别达到55.1%、46.2%。
2026-03-18 09:26
当前,以家庭农场、农民合作社、龙头企业为代表的新型农业经营主体已成为“强农兴村”的中坚力量,发展成效显著。夯实联农带农长效机制,还需构建多层次、可落地的政策环境,让农业经营主体有动力、有能力、有底气带动小农户共同增收。
2026-03-18 09:26
在成都温江区,骑行爱好者李先生沿着北林绿道前行,穿梭在虫鸣鸟叫、淡淡花香之中。”  一幅幅充满生机的新春图景,正是成都加快建设践行新发展理念的公园城市示范区的生动注脚。
2026-03-18 09:26
分享几个故事,一起走进地球科学的世界。
2026-03-16 18:39
工业和信息化部、财政部、国家发展改革委日前印发《关于开展氢能综合应用试点工作的通知》。通知提出,通过城市群试点,将氢能应用场景由燃料电池汽车向交通、工业等具备条件的多元领域拓展。
2026-03-17 09:35
加载更多