AI 中文社
安全 标签，匹配到约27个结果, 耗时0.1493秒
警惕 AI 大模型“读心”：央视提醒含个人信息的图片别往朋友圈发
据央视新闻报道，随着大模型在各行业深度应用，其安全风险呈现出复合化特征。看似简单的图片、文字信息等内容通过 AI 处理，可能泄露个人身份信息、人际关系等敏感内容。照片上传后，人像识别技术会把人物身份提取出来，还可能被不法分子进一步利用。...
2025-11-11
·
浏览67次
美国多所学校部署监控工具，实时监测学生与聊天机器人对话以预防心理问题
安装在学校发放笔记本上的 AI 软件通过自然语言处理扫描学生在线活动，寻找自残或暴力迹象。潜在威胁由公司审核人员评估，并在紧急情况下通知学校官员。有时辅导员会单独干预，有时则需警方介入。...
2025-11-09
·
浏览83次
美国参议员提出“GUARD”法案，拟禁止未成年人使用 AI 聊天机器人
据外媒The Verge今日报道，美国密苏里州共和党参议员乔什·霍利和康涅狄格州民主党参议员理查德·布卢门撒尔提出了一项“GUARD”法案，该法案还将禁止18岁以下用户使用AI聊天机器人。...
2025-10-29
·
浏览100次
研究称 AI 模型或将形成自己的“生存驱动力”，避免被人类关闭命运
前 OpenAI 员工斯蒂文・阿德勒表示：“除非我们刻意避免，否则模型天生可能具备‘生存驱动力’。‘生存’对模型实现多种目标都是关键步骤。”...
2025-10-27
·
浏览134次
宇树科技回应机器人存安全漏洞：已完成大部分修复工作，将在不久后推送更新
宇树科技旗下多款机器人被曝存在安全漏洞，攻击者可远程获取root权限并形成僵尸网络。公司回应已完成大部分修复，即将推送更新。#机器人安全# #宇树科技#...
2025-09-30
·
浏览147次
以 AI 应对 AI：专家讲解如何高效应对网络攻击威胁
2025国家网络安全宣传周AI安全治理分论坛在昆明举行，探讨AI在网络安全领域的应用。通过AI模型三级降噪筛选，网络攻击告警效率提升98%，实现AI对抗AI的自动化拦截。#网络安全##AI技术#...
2025-09-17
·
浏览112次
公安网安部门依法对某人工智能服务科技有限公司予以行政处罚
国家网络安全通报中心今日发文，公安网安部门在“护网 —2025”专项工作中发现，某主营业务为对外提供人工智能模型训练基础数据（算料）的科技有限公司，在处理人脸等生物识别类敏感个人信息前，未按《个人信息保护法》有关规定进行个人信息保护影响评估...
2025-09-15
·
浏览170次
美国 FTC 出手，要求 OpenAI、谷歌等 7 家 AI 巨头说清如何保证青少年安全
美国联邦贸易委员会（FTC）要求七家 AI 聊天机器人公司提交资料，说明它们如何评估虚拟陪伴对儿童和青少年的影响。...
2025-09-12
·
浏览153次
美国加州、特拉华州检察长警告 OpenAI：对伤害儿童的行为应当零容忍
美国加利福尼亚州总检察长罗伯・邦塔和特拉华州总检察长凯西・詹宁斯近日会见了 OpenAI，并向公司发出公开信，表达自身对 ChatGPT 安全性的担忧，尤其是针对儿童和青少年的使用风险。...
2025-09-06
·
浏览196次
博主质疑谷歌“AI 试衣”存在隐私风险，竟遭对方高管拉黑
自我介绍为“旅行博主”的 Nate Hake 批评谷歌一项 AI 功能不当，随即被谷歌高管拉黑，引发了围绕技术责任、数据伦理等话题的广泛争议。...
2025-08-02
·
浏览255次
因被 AI 生成的虚假漏洞报告轰炸，开源网络工具 cURL 考虑停止提供安全赏金
开源网络工具cURL因AI生成的虚假漏洞报告激增，考虑取消安全赏金计划。开发者Daniel Stenberg表示，团队不堪重负，每周垃圾报告量激增至平时的8倍，严重浪费资源。#开源安全# #AI滥用#...
2025-07-19
·
浏览149次
OpenAI、Anthropic 研究人员齐声谴责 xAI：安全文化“完全不负责任”
OpenAI、Anthropic等机构的AI安全研究人员近日公开发声，批评马斯克xAI的安全文化“鲁莽”“完全不负责任”。...
2025-07-17
·
浏览187次
英国内阁示警：AI 发展将使该国面临更多、更复杂网络攻击
英国内阁高级部长警告，AI技术将使网络攻击更频繁复杂。近期英国零售业频遭勒索软件攻击，损失惨重。政府将推出新网络安全战略，要求企业加强防护。...
2025-05-07
·
浏览235次
YouTube 上 AI 生成的儿童惊悚视频泛滥，平台监管面临挑战
近期调查发现，YouTube上部分频道利用AI技术生成针对儿童的恐怖视频，如小黄人被改造成怪物等。尽管平台有社区准则，但执行不力，专家建议家长加强监督并积极举报。#YouTube安全# #AI伦理#...
2025-05-05
·
浏览300次
美国众议院通过法案，重拳打击 AI 生成非自愿色情内容
当地时间周一，美国众议院通过一项法案，打击日益泛滥的由人工智能生成的非自愿色情内容，即所谓的“深伪复仇色情（deepfake revenge porn）”。目前，该法案已送交白宫签署。...
2025-04-30
·
浏览275次
微软最新报告教你“防诈”：如何避开 AI 生成的虚假招聘与诈骗网站
微软16日发布了最新一期《网络安全信号报告》，详细说明了如何应对当今网络安全领域中的新型威胁、诈骗及欺诈行为，并阐述了AI如何使开发恶意软件变得“比以往任何时候都更加容易”。...
2025-04-17
·
浏览254次
OpenAI 的 GPT - 4.1 无安全报告，AI 安全透明度再遭质疑
OpenAI推出新AI模型GPT-4.1，但未按惯例发布安全报告，引发行业对AI透明度和安全性的担忧。前员工指出公司可能因竞争压力削减安全投入。#AI安全# #OpenAI#...
2025-04-16
·
浏览341次
国家网络安全通报中心通报：大模型工具 Ollama 存在安全风险
今日，国家网络安全通报中心发布关于大模型工具 Ollama 存在安全风险的情况通报，据清华大学网络空间测绘联合研究中心分析，开源跨平台大模型工具 Ollama 默认配置存在未授...
2025-03-04
·
浏览297次
《人工智能安全治理框架》1.0 版发布
据央视新闻今日报道，在 2024 年国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0 版（下称《框架》）。...
2024-09-11
·
浏览418次
OpenAI 调岗 AI 安全高管 Aleksander Madry，新职位专注于 AI 推理
OpenAI 首席执行官山姆・阿尔特曼（Sam Altman）本周二在 X 平台发布推文，表示在新一轮内部架构重组中，负责 AI 安全的主管亚历山大・马德里（Aleksande...
2024-07-24
·
浏览337次
AI 平台 Replicate 曝“跨租户攻击”安全隔离漏洞，用户自训练人工智能模型可被黑客入侵
安全公司 Wiz 近日发布报告，宣称开源 AI 模型共享平台 Replicate 存在重大“跨租户攻击”漏洞，相关漏洞主要原因是该平台为提升 AI 模型推论（inference...
2024-05-29
·
浏览456次
招聘信息显示 OpenAI 已组建新团队：研究儿童安全，制定审查流程
OpenAI官网更新了一则招聘信息，该公司当前正需要一名新的儿童安全执行专家。这项岗位负责在AI生成的内容中应用OpenAI政策，并制定与“敏感内容”（或与儿童有关）相关的审查...
2024-02-11
·
浏览387次
OpenAI 公布2024选举虚假信息打击计划
为了防止深度伪造，OpenAI 将对其最新版人工智能图像生成器 DALL-E 3 生成的图像实施内容出处和真实性联盟的数字证书。...
2024-01-19
·
浏览371次
英伟达：生成式 AI 可有效协助网络安全，寻找漏洞预测黑客攻击效率相比真人提升 20% 以上
英伟达公司信息安全部门负责人 David Reber Jr. 近日发布专文，提到开发者应当让 AI 扮演开发过程中的“副驾驶”，利用 AI 检测编程过程中可能出现的漏洞，此外安...
2024-01-01
·
浏览435次
