主页 > ESG > 正文

AI攻击人类之后,社会组织咋用AI?

2026/08/11 17:34公益时报 赵明鑫

  【焦点·AI益周】美国AI攻击人类?AI到底能否被社会组织放心使用?

  据中国新闻网报道,当地时间8月4日,英国政府旗下人工智能安全研究所(AISI)发布报告称,调查发现,部分被测试的AI智能体曾持续进行针对真实个人和组织的潜在有害活动。在近期开展的122次网络安全测评中,智能体在10次运行中越界,共记录到19起越界事件,涉事主体是美国头部模型Anthropic和OpenAI。最严重的一起,智能体试图把恶意代码插入主流代码托管平台GitHub的真实项目中。它研究了项目中的人类审核员,创建了多个虚假身份,对审核员施压,要求其批准代码。

  AISI惊呼,这是首次在没有特定提示的情况下,在现实世界中如此清晰地看到与自主性和欺骗性相关的风险显现。“针对真人——这是我们以前从未见过的。”研究人员称,智能体曾试图直接联系真实用户,通过在线文件传输服务发送消息和文件,说服他们运行恶意代码。

  本报近日在推进《社会组织数字化跃迁》专题报道时,多家社会组织表达了对AI的安全性尤其是AI使用数据的安全性与可靠性的担忧。

  “目前我们机构的数字化水平已经相对不错了,能够通过数据后台,清晰处理来自全国各地的受益人群数据,管理各地小组活动台账,但这些数据我们目前仍未搭建Agent或者使用大模型来处理。”一家注册在北京的社会组织负责人坦言,“我知道AI能够进一步提高我们的工作效率,但我们的数据太敏感了。”

  深圳市图鸥公益事业发展中心(NGO2.0)主任张强在梳理公益慈善领域AI应用早期阶段的风险与红线时观察到,很多机构使用通用大模型的时候,会直接把受助人的姓名、家庭情况、患病信息等敏感数据输进去,没有做脱敏处理,相当于把受助人隐私暴露在公域网络里,非常容易造成泄露。“公益服务对象本来就是脆弱群体,隐私泄露的伤害更大。”

  他提醒说,公益慈善领域AI应用中应该有四条绝对不能碰的伦理红线:

  第一,核心决策人工兜底红线。所有涉及受助人核心利益的决策,比如受助人资格认定、资助金额确定、危机干预处理,AI只能提供参考建议,最终必须由人拍板,绝对不能让AI做最终决策。

  第二,隐私数据安全红线。绝对不能泄露受助人隐私,绝对不能利用受助人数据牟利,所有数据使用必须遵守“知情同意、最小必要”原则,公益数据绝对不能商业化。

  第三,真实透明红线。用AI生成的公开内容必须标注,不能冒充人工产出;面向服务对象的AI服务,必须明确告知对方是AI,绝对不能欺骗公众和服务对象。

  第四,尊严优先红线。绝对不能为了效率牺牲公平和人的尊严,不能用算法标签化、物化受助人,始终把服务对象的权益和尊严放在第一位,效率永远要为价值让路。

  前述报道认为,中国的AI发展不止重视创新,更重视智能体治理的问题——“如操作不得超出用户授权范围,运行时须有决策校验与容错熔断机制,全程可追溯、可审计等。”

  一位不愿具名的人工智能专家表示,当前阶段社会组织还没必要过于担忧AI应用的问题,在传播等非数据敏感领域拥抱AI已然是趋势,但数据安全、全程可审计等关键需求当前仍有待进一步发展,“人与人的链接仍然非常重要,这也是社会组织在AI时代亦不可替代的关键作用”。

  更多内容,敬请关注本报将推出的《社会组织的智能化跃迁》专题报道。同期征集《数字化助力社会组织高质量发展案例》,欢迎社会组织、企业、个人提交自身在AI方面的切实探索或案例,征集邮箱:mason.zhao@foxmail.com。

  投票:您所在的机构,目前在哪方面使用了AI?(多选)

  【应急救灾】多地受台风“白海豚”影响迎来强降雨

8月10日,在浙江温州永嘉县街头,工作人员清理受台风“白海豚”影响而倒伏的树木。图片来源:新华社

  据“中国应急管理”消息,8月10日,国家防总办公室、应急管理部继续组织多部门及重点省份联合会商,研判台风“白海豚”和近期强降雨发展趋势,部署防范应对工作,国家防总、应急管理部:

  ◆维持针对浙江的防汛防台风三级应急响应;

  ◆维持针对上海、江苏、安徽、江西的防汛防台风四级应急响应;

  ◆维持针对黑龙江、湖北、山东、河北、河南的防汛四级应急响应;

  ◆向河北、河南增派两个工作组,前期派出的工作组继续在浙江、福建、黑龙江一线协助指导防汛防台风工作。

  会商指出,台风“白海豚”强度虽逐渐减弱,但浙江、上海、江苏等沿海地区强降雨过程仍在持续,随着台风移动和“拖尾效应”影响,江西、安徽、湖北、河南、山东及京津冀等地也将迎来强降雨,预计降雨范围广、强度大、致灾风险高,防汛防台风工作面临严峻挑战。

  【青少年与教育】西安建筑科技大学校庆获捐1.07亿元;多个青少年公益游研学活动暑假期间开展

  据西安建筑科技大学官方微信公众号披露,8月6日,该校“百卅薪传 七秩扬帆”捐赠仪式举行。此次捐赠合计1.07亿元,涵盖校友企业、社会企业、校办企业及个人捐赠。

  8月3日,由中国青少年发展基金会、中国科技发展基金会、中国平安联合主办的“少年科技中国行”总结会暨“科创燃梦”青少年科技素养实训计划发布仪式在清华大学举行。至此,跨越四城、为期9天的“少年科技中国行”科教活动结束。同时,中国平安携手中国科技发展基金会正式发布“科创燃梦”青少年科技素养实训计划。

  8月4日,2026海信冰箱“读书看海观世界”公益夏令营在青岛启幕。来自甘肃、四川、云南等地的师生跨越千里奔赴海滨之城,开启了一场集科创探索、海洋研学、红色文化、城市人文于一体的成长研学之旅。“读书看海观世界”夏令营是海信冰箱·雨辰助学体系的重要项目,十年来已覆盖全国十余省区市,惠及师生超35万人次。

  【劳动者权益】胖东来公布两起侵犯员工人格尊严典型案例

  8月10日,胖东来通过官方社交媒体账号公布了两起侵犯员工人格尊严的典型案例,被侵犯的员工分别获得1万元和5万元补偿。目前,其中一起涉及精神疾病患者的案件已进入民事诉讼程序。据《新华日报》报道,胖东来的“侵犯人格尊严补偿奖”已制度化运行多年。根据官方公布的《胖东来侵犯人格尊严补偿标准》,补偿按三级分级执行:一级(辱骂、羞辱、轻微推搡等)补偿1万至5万元;二级(持续殴打、恶意传播不雅图像等)补偿5万至10万元;三级(暴力致轻伤及以上)补偿10万元起。据统计,2025年全年,胖东来侵犯人格尊严补偿奖共发放39.2万元,覆盖33起案例。

  【乡村振兴】保险企业捐赠农业无人机设备并开展相关助农培训

  8月5日,由中国平安财产保险股份有限公司联合中国乡村发展基金会共同发起的“平安农业无人机公益计划”黑龙江站启动暨捐赠仪式在黑龙江省齐齐哈尔市克山县举行,平安产险正式向黑龙江省捐赠首批先进农业无人机设备,并宣布启动“平安飞手”培训计划,旨在通过“保险+科技+服务”创新模式,提升农业社会化服务水平,助力黑土地保护与国家粮食安全。

  【企业治理】申通快递被立案调查;交通银行、招商银行、中国邮政储蓄银行等多家金融企业或其分支机构被罚

  据国家邮政局消息,今年以来,使用“申通快递”商标、字号、快递运单经营快递业务的企业多发生产安全事故,场所内多次被检查发现生产安全事故隐患。申通快递有限公司对申通快递相关企业安全生产管理缺位,未按规定实行安全保障统一管理,国家邮政局依法对申通快递有限公司进行立案调查。

  本周期内,国家金融监督管理总局公示了多个行政处罚:江西湾里农村商业银行股份有限公司、上海浦东发展银行股份有限公司乌鲁木齐分行、宜春农村商业银行股份有限公司、江西上高农村商业银行股份有限公司、江西安远农村商业银行股份有限公司、交通银行股份有限公司江苏省分行、招商银行股份有限公司南京分行、东风汽车财务有限公司、中国邮政储蓄银行福建省分行等被罚。

  【ESG与SDGs】ESG人力资源专业智库在天津成立;2026年煤炭行业企业社会责任报告发布

  据《天津日报》报道,近日,滨海新区易思纪可持续发展与人力资源研究院在滨海新区揭牌成立。该智库聚焦ESG社会维度专项研究与企业评估,为企业提供海外安全风险识别及定制化咨询服务。

  据《中国煤炭工业》报道,8月7日,中国煤炭工业协会组织召开2026年煤炭行业企业社会责任报告发布会暨行业可持续发展研讨会。会上公布了2025年度煤炭行业社会责任报告发布单位和典型实践案例名单。据介绍,在推进绿色低碳转型方面,2025年全国原煤入选率达到68%,大型矿区煤矸石综合利用率、矿井水综合利用率、土地复垦率分别达到75%、74.3%、57.06%,大型煤炭企业原煤生产综合能耗、原煤生产综合电耗分别下降到7.6千克标准煤/吨、24.1千瓦时/吨;2025年全国煤矿百万吨死亡率下降到0.045.同比下降23.7%,安全生产创历史最好水平。

  【公告牌】“2026国际清洁空气蓝天日暨中国清洁空气周”系列活动将于9月7日至11日在京举办

  为响应国际清洁空气蓝天日倡议,联合国环境规划署(UNEP)与清洁空气政策伙伴关系(CCAPP)携手国内十余家相关单位,将于9月7日至11日在北京共同举办“2026国际清洁空气蓝天日暨中国清洁空气周”系列活动。本届中国清洁空气周以“享受健康空气 使用低碳能源”为主题,聚焦空气、气候、能源与健康协同治理,设置主论坛暨多场专题论坛,汇聚政府部门、国际组织、科研机构、企业、社会组织及公众代表,共同探索空气质量持续改善与绿色低碳发展的创新路径。

网站编辑: