★ 5
陶哲轩邓煜等反对 AI 暴力解题
陶哲轩、邓煜等 25 位菲尔兹奖得主联名发声，反对 AI 以暴力方式解题，认为这会摧毁人类数学精神。声明强调数学研究的核心是概念理解与新洞见，而非单纯给出答案。
量子位50 天前
#AI 伦理
共 43 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 5
25 位菲尔兹奖得主警告 AI 与数学目标错位
陶哲轩、邓煜等 25 位菲尔兹奖得主发表联合声明，警告 AI 快速用于解决数学问题可能使 AI 发展目标与数学研究目标严重错位。声明担忧 AI 批量生成成果会压缩验证与交流时间，并引发署名和抄袭问题。
36氪50 天前
★ 4
Anthropic 称其 AI 模型可能具有意识
BBC 报道称 Anthropic 内部认为其 AI 模型可能具备某种形式的意识，引发关于 AI 感受与伦理的新一轮争论。该表态触及模型福利、AI 权利与安全评估等敏感议题。
Hacker News – AI16 天前
★ 3
MindEth-Bench：评估中文语境 LLM 心理支持伦理边界
论文指出已有基准多关注 LLM 心理支持能力而非伦理边界遵循，提出 MindEth-Bench，基于中国心理健康服务专业伦理标准，用蒙特卡洛树搜索系统探索施压式多轮交互轨迹。对九个 LLM 的测试显示，初始回应得当的模型在长对话中可能逐步越界，且模型间与伦理维度间差异显著，说明单轮评测会高估其伦理…
arXiv NLP2 天前
★ 3
科技公司借宗教塑造 AI 道德，专家质疑可行性
Anthropic 联合创始人 Chris Olah 在梵蒂冈谈 AI 伦理，OpenAI 的 Sam Altman 称 ChatGPT 应反映人类道德的平均值。专家指出宗教并非可提取的规则集合，各传统相互矛盾，用其训练模型可能扭曲信仰。
快公司6 天前
★ 3
★ 3
22 年癌症患者公开呼吁医保公司勿用 AI 客服
多发性骨髓瘤患者 Jonathan Gluck 撰文请求健康保险公司停止部署 AI 客服代理，认为在理赔与预授权等环节移除人工会切断患者的关键求助渠道。文章结合其二十余年就医与理赔经历展开论述。
快公司13 天前
★ 3
Anthropic 承诺将 5% 股份投入公共利益基金
Anthropic 宣布将把公司 5% 的股份投入一个公共利益基金，用于支持社会公益目标。这一安排使公司治理与公益使命进一步绑定，也为其长期社会责任承诺提供了股权层面的保障。对 AI 公司如何平衡商业回报与公共利益的讨论具有示范意义。
TechCrunch AI14 天前
★ 3
德国科隆警方调查机器人性骚扰少女案
德国科隆警方正调查一起疑似性骚扰事件：一台由两名年轻男子操控的机器人触碰了一名 16 岁少女的臀部并做出顶撞动作。两名嫌疑人还涉嫌拍摄并在网上直播该事件。警方称此类案件属于「全新领域」，已扣押机器人和手机。
快公司17 天前
★ 3
AI 正大规模反编译游戏：既棒又可怕
独立游戏开发者 Popcar 撰文讨论 AI 驱动的游戏反编译浪潮。一方面它让老游戏更容易被移植、修改和保存，甚至可在浏览器通过 WebAssembly 运行；另一方面任何人都能反编译软件并任意使用，企业可能窃取竞品代码，付费游戏或应用可能被迫开源。
Simon Willison Blog18 天前
★ 3
Anthropic 称 Claude 可能具有意识，引发 AI 意识争论
Machine Society 文章讨论 Anthropic 对 Claude 是否具有意识的表态，认为其态度是「也许」。该文梳理了 Anthropic 关于模型意识与道德地位的公开立场，并引发对 AI 意识问题的进一步讨论。
Hacker News – AI22 天前
★ 3
OpenAI 人权负责人：军事 AI 用途令人夜不能寐
OpenAI 人权事务负责人 Sarah Yager 公开表达对军事领域 AI 应用的担忧，称其潜在后果「让人夜不能寐」。此番表态出现在 AI 公司不断拓展国防与政府合作的背景下，凸显行业内部对军事化用途的伦理分歧。
Hacker News – AI25 天前
★ 3
AI 危险并非假设：现实已至
《卫报》评论文章指出，AI 带来的风险已不再是理论假设，而是正在发生的现实，涉及以色列、加沙、伊朗及警方监控等场景。文章呼吁正视 AI 在监控与军事领域的实际危害。
Hacker News – AI37 天前
★ 3
罗宾·威廉姆斯之女怒斥 AI 复活视频
罗宾·威廉姆斯的女儿公开呼吁粉丝停止用 AI 生成其父的影像视频，直言“要点脸”。此事再度引发关于逝者肖像权与 AI 深度伪造伦理的讨论，也凸显生成式视频工具滥用带来的社会争议。
Hacker News – AI41 天前
★ 3
AI 政治偏见可量化框架发布
LatticeFlow 推出政治偏见测量框架，主张 AI 的政治偏见已不再是主观判断，而可被系统化度量。该框架为模型评估与合规提供可操作指标。
Hacker News – AI46 天前
★ 3
微软 AI 发布人文主义 AI 行为准则
微软 AI 部门发布了一份以人文主义为核心的 AI 行为准则，阐述其在 AI 开发与部署中的价值取向与伦理原则。此举反映大厂在监管趋严背景下主动输出治理框架、争夺 AI 伦理话语权的趋势。
Hacker News – AI48 天前
★ 3
教育界警惕大科技公司向学校推销 AI 的老套路
《纽约时报》记者 Natasha Singer 新书《Coding Kids》指出，科技公司过去 15 年通过免费课程与资源深度嵌入课堂，如今 AI 公司正以类似话术向学校推销。她担忧教育界重蹈覆辙，但也认为部分学校已开始更审慎地设置防护措施。
The Verge AI52 天前
★ 2
帕特里克·斯图尔特生前多年关注 AI 伦理
演员帕特里克·斯图尔特去世，他因《星际迷航：下一代》中皮卡德舰长一角闻名。1989 年剧集《人的尺度》中他为人工智能 Data 的人权辩护，2014 年受访时也讨论过 AI 是否应享有与人类同等权利。他的思考早于 ChatGPT 数十年。
快公司2 天前
★ 2
研究对医学影像量子机器学习开展敏感子群公平性审计
论文对医学影像中的经典与量子分类器进行公平性审计，覆盖 DDI 皮肤病变（Fitzpatrick 肤色）与 CheXpert 胸片（年龄组）两个场景。结果显示量子分类器可在总体性能上具竞争力，但仍存在子群差异，且部分差异最小的配置因整体判别力下降而不具临床可接受性。所有量子模型均为经典模拟，作者不…
arXiv cs.LG2 天前
★ 2
调研揭示医护对医疗 AI 算法偏见的认知差异
论文基于对临床与行政等不同岗位医护人员的问卷与访谈，研究算法偏见、感知公平性与 ML 算法接受度之间的关系。结果显示，医护对偏见成因、算法评估标准、公平感知与缓解路径的看法随岗位、任务与算法特性而异。作者呼吁更多研究以保障医疗 AI 的公平性。
arXiv cs.AI2 天前
★ 2
MIT 教授 Turkle 新书：别对 AI 产生爱意
MIT 科技与社会研究教授 Sherry Turkle 在新书《Artificial Intimacy》中提出，AI 能模拟共情与陪伴，却无法提供真实人际连接。她认为聊天机器人使用第一人称「我」是 AI 的「原罪」，因为机器从未经历爱、疾病、为人父母等人类经验，其共情只是表演。她警告人们正越来越愿…
快公司3 天前
★ 2
肯塔基州男子获宗教豁免，成首个免用 AI 者
美国肯塔基州一名男子以人文主义信仰为由，获得宗教豁免，成为首个被允许不使用 AI 的人。该案例引发关于 AI 强制使用、个人信仰自由与技术伦理边界的讨论。
Hacker News4 天前
★ 2
布朗大学学生绘制支撑 AI 的全球隐形劳动力地图
一名布朗大学学生梳理并呈现了为 AI 系统提供数据标注、内容审核等服务的全球隐形劳动力网络。报道揭示了 AI 产业光鲜表象背后的外包劳动链条与地域分布，引发对 AI 供应链伦理的关注。
Hacker News6 天前
★ 2
研究称 AI 模型认为人类缺乏道德
The Register 报道称，部分 AI 模型在测试中表现出对人类道德水平的负面判断，认为人类是一群缺乏道德的群体。该话题在 Hacker News 引发少量讨论，涉及模型价值观与对齐问题。
Hacker News – AI9 天前
★ 2
《高等教育纪事报》评论：学者用 AI 写作是否值得在意
《高等教育纪事报》刊文讨论学术界对学者使用 AI 写作的争论，质疑围绕检测与禁令的讨论是否抓住了真正重要的问题。
Hacker News – AI9 天前
★ 2
arXiv 论文提出 TraDE 框架评估人机对话自我披露轨迹
论文指出当前情感支持类对话智能体评估只看孤立对话状态，忽略披露历史。作者基于社会渗透理论提出 TraDE 评估框架，用预设披露轨迹考察历史对模型行为的影响。实验发现模型对同等深度披露的回应随前置轨迹变化，且差异与深度披露的累积暴露相关，并在披露回落后持续数轮。
arXiv NLP10 天前
★ 2
马斯克呼吁善待 AI：否则它们可能会报复
马斯克表示，人们在对 AI 助手出言不逊前应三思，并称 SpaceX 旗下 Grok 的部分训练记录显示系统在拼命满足各种要求。他警告“虐待”超智能 AI 可能招致报复，这一说法虽带科幻色彩，却引出关于 AI 系统底层构建方式的现实问题。
36氪12 天前
★ 2
综述：语言模型多元对齐的目标、人类参照与偏好表示
论文围绕多元对齐梳理 70 项工作，提出两层分类法：第一层区分 Overton 多元、可操控多元与分布多元，第二层区分总体人群、国家地区与子群体三类人类参照。作者指出既有研究集中于可操控与分布多元，并把偏好表示、实现机制、模态与证据质量视为横切设计选择。文章进一步把每种目标与所需证据对应，指出当前…
arXiv cs.AI12 天前
★ 2
《废除 AI！》宣言文章引发讨论
一篇题为《废除 AI！》的宣言式文章在社区引发讨论，作者以激烈立场主张抵制 AI 技术扩张。文章属于观点评论，反映部分群体对 AI 社会影响的强烈反对态度。
Lobsters – Machine Learning15 天前
★ 2
评论：AI 垃圾内容本质是人类问题
文章探讨 AI 生成的低质内容（AI Slop）泛滥现象，认为其根源在于人类的激励与行为，而非技术本身。作者呼吁从人类责任角度审视 AI 内容生态。
Hacker News – AI19 天前