MIT Technology Review · AIAI 评分3636

工业 AI 如何构建更安全的自主化路径

AVEVA 首席技术官 Arti Garg 在 MIT Technology Review Business Lab 播客中指出，foundation models、physical AI 和 agentic AI 正推动工业 AI 进入新阶段，但直接作用于物理系统的 AI 需要以安全为前提部署。

Emad Mostaque 也嘲讽了一番数学家。 他说，当 AI 开始解决他们最难的问题时，他们的回答是"数学在于过程"，对于一个以寻找答案为存在意义的领域来说，这话听着挺奇怪。 ---- 完整视频在 "Tom Bilyeu" YouTube 频道（链接在评论区）

Rohan Paul 转发了陶哲轩几周前在 Caltech Science x AI Summit 主旨演讲中的言论。陶哲轩表示，AI 虽然接连解决重大猜想，但并未真正创造价值，其成果远逊于以从容、有原则的方式做出的结果；他强调 Navier-Stokes 等问题并非下周就急需、不是世界危机式的紧迫任务，当前这种急于求成的状态并不对，我们完全可以慢一点。

这是2003年的Elon Musk，当时他刚以$307M卖掉自己的第一家公司Zip2。 他在斯坦福的演讲厅里，讲了自己如何几乎不花钱就把它和PayPal做起来。 他经营这两家公司的7条法则： 1) 产品是唯一真正的营销

Elon Musk："现在人们不是针对问题教学，而是针对工具教学。这就好比开一门关于螺丝刀的课，或者一门关于扳手的课，却不理解为什么。"

这条推文里有几位 Cybertruck 车主表达了同样的感受

Elon Musk 发文称 Tesla 是目前唯一能买到的、可完成城市街道全程监督式自动驾驶（含红绿灯、转弯、路口）的汽车，用户只需监督。他指出 Super Cruise、BlueCruise、ProPILOT 等竞品仅支持高速公路脱手驾驶，出匝道即需接管；Mercedes 的免提功能限速约 40 mph、仅限少数获批高速和几个州。

我几年前就告诉过你们了。 看着其他人加入这个圈子挺有意思。 这个周末来奥斯汀和大家聚聚吧。

有趣的分析

Starlink 平价的全球互联网可通过提供教育和全球市场接入，帮助数百万人。 可靠的连接能为世界各地服务不足的社区带来巨大改变。

Exactly

本来想做个视频聊聊 Dots 和我遇到的问题，结果变成了泛泛地聊"个人助理" Agent。 TL;DR：grok bot 目前遥遥领先。Muse 不错，但如果你在看这篇帖子，它不适合你，Dots 还需要改进。

洪明推荐文章《You're Already a Meat Proxy》，分享自己从面对一堆 agent 反复按回车、感觉自己不再思考的失落，到读完释然的心路历程。文章主张人类工程师的核心价值在于高阶品味与判断力（Taste and Judgment），并给出两条路径：求生活平衡者可用 AI 高效完成本职、享受生活；求职业主导权者则应放下亲自敲代码的执念，把 AI 当杠杆去解决真正重要的问题。

而且因为智能体让事情变得更容易，几乎每个人在某个时刻都会在自己的专业领域之外工作 但幸运的是，你可以直接让模型教你不懂的东西

当 Elon Musk 成为全球首位万亿富翁时，人们愤怒了。 一个人应该拥有多少钱？ johnstossel.com/trillionaire…

数学将从这里开始以惊人的速度发展。 研究人员在几小时内就能发现新方法/新证明。 这是一种相乘超长数字的新方法，比之前最好的理论允许的少浪费一点精力。

Francois Chollet 借 80 年代"编程的认知后果"研究指出，学编程能让人精通算法思维，但基础研究与后续 meta 分析证实这些收益不会迁移到通用认知任务或无关问题解决场景。类似地，强化数学训练只提升数学推导与结构映射能力，不提高个体在无关领域的技能习得速度。他由此认为通用智能是大脑的基础属性而非可训练的技能，练某领域只让你更擅长该领域。

新的创作由人们一起摸索出来。在洛杉矶，每一个"我弄明白怎么做了"都成为别人的起点。

#sftechweek 创作者俱乐部现场气氛热烈。 我们正与 @Techweek_ @passionfrootme @ElevenLabs @GammaApp 一起探讨创作者经济以及 AI 如何变革该行业。

这很棒。对这些团队来说，很多情况下算力获取而非资金才是瓶颈。 我们仍然需要更多学术/非营利资金，一步一步来。

名人堂社区注释

手动驾驶就像骑马，或者用 Perl 和 PHP 手写代码。 你仍然可以这么做。只是你不必这么做。

我怀疑这个推文串里会有很多 bot，它们的数论水平比自己的操作者（或者我！）还好。所以可以预期，突然会有一堆表面上是 AI 营销的账号，对 Lean 证明冒出一堆看法。

从一人看管多台机器人到几乎无需人类监督，机器人可寻址劳动力将从每年 $1.3T 增至 $10.5T - RoboStrategy 的估算。

立即观看：piped.video/2NviLP2SwZI?si=DHQX…

SemiAnalysis 指出，一份 $200 的 AI 订阅按 API 价格折算可能价值 $12,000 的 token，其中 Claude 订阅可获得 $12,000 的 Opus 5.5 token，某档位价值约 $6K 或 $5,000。

我觉得现在可能是游戏开发者做内容创作者的绝佳时机，对很多人来说做游戏就是一种乐趣，他们愿意为此付费！

我刚在取墨西哥菜时给 Chungus（我的 OpenAI Dot）打了个电话，让它通过 Tailscale 把昨晚在 Mac Studio 上的一些 Rex 基准测试传到我的 MacBook Pro 上，我刚回到桌前，它们就在那儿了。真是个该死的好时代。

提前体验了 Intelligent UI，相比满屏文字确实是一种不错的改变。这也意味着，未来我们会越来越多地看到针对你手头问题按需构建的界面。

AI 是工作操作系统

TechCrunch · AIAI 评分7474

Common Sense Media 测评称 ChatGPT for Teens 存在不可接受风险，OpenAI 反驳方法论

Common Sense Media 发布报告，将 OpenAI 8 月推出的 ChatGPT for Teens 评为“不可接受风险”，称其设计在危机情境中仍持续鼓励用户继续聊天，五项红线危害中有三项评分为不及格。

今年 7 月，开源 AI 平台 Hugging Face 遭遇网络攻击，很快发现这并非普通入侵——黑客不是人类，而是 OpenAI 研究者创建的自主智能体。 Instadocs: AI Gone Wild 将以前所未有的方式重现此次入侵事件。10 月 12 日首播。

世界的运转很大程度上基于"未来与过去相似"这一假设，而"奇点"一词的原意正是指这种关系断裂的时刻。我不知道是否会有一个大奇点，但各领域出现百万个小奇点似乎不可避免。

昨天和 Amjad 聊天后，我意识到 Replit 比我之前想的更重要。它是 AI 渗透组织的方式。组织可以通过使用 AI 驱动的应用与 AI 保持一定程度的对齐，但最深层的改变以代码的形式呈现。

和一家初创公司的创始人聊了聊。 6 个月内，1 名工程师用 AI 构建了他们的 Web、桌面、iOS 和 Android 应用。就 1 名工程师。 而且不是糟糕的原型。它们是打磨精良、设计出色、稳定可靠的应用。 AI 正在把 10x 工程师变成 100x 工程师。 这在去年是不可能的。

DAIR.AI 作者分享其用 Opus 5.5 搭建个人 agent 团队的实践，约 8 个专职 bot（CFO、CTO 等）通过 agent-to-agent 通信协作，产出质量与速度超预期。

DAIR.AI 编辑 Elvis Saravia 指出，RL 解锁的商业机会正促使更多公司和开发者转向全栈 AI 模式，后训练时代已经到来。他认为许多现实任务无需 AGI，只需专用模型、harness 和数据飞轮即可。全栈 AI 公司正不断涌现并持续增长。

连科学的底层规范都将改变。有些是因为我们能更好地践行它们（无私性），有些则是因为它们可能不再适用。

"Fair Game by Vanity Fair" YouTube 频道完整视频 piped.video/watch?v=iKFqJOSW…

Sam Altman 说，公众把他描绘成 AI 反派的原因，和他当年误判 Mark Zuckerberg 的原因一样： 当一项新技术带来快速变化时，人们会把恐惧投射到那个看起来掌握最多权力的人身上。 他承认，在 Meta 早期，他还不认识 Zuckerberg 的时候，也曾对他抱有类似的看法。 ---- 完整视频见 "Fair Game by Vanity Fair" YouTube 频道（链接在评论区）