BBS

  • 注册
  • 登录
  • 搜索
  • 标签
  • 帮助
BBS » 科学、生活、常识、益智 » 冗余很重要,这句话极富哲理 » 发表回复

预览帖子

游客


发表回复

用户名 游客 [会员登录]
  (可选)
  • Html 代码 可用
  • 表情 可用
  • Discuz!代码 可用
  • [img] 代码 可用
B I U | 字体 大小
| Align Left Align Center Align Right | Url Email Image | Quote Code
Rremove Format Unlink Undo Redo | Ordered List Unordered List Outdent Indent Float Left Float Right | Table Free Hide | flyflashmp3mtvmusicmusic2
flvmtv2music3
简单功能
  • 仿宋_GB2312
  • 黑体
  • 楷体_GB2312
  • 宋体
  • 新宋体
  • 微软雅黑
  • Trebuchet MS
  • Tahoma
  • Arial
  • Impact
  • Verdana
  • Times New Roman
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
收缩编辑框扩展编辑框
上传附件 描述
文件尺寸: 小于 25000 kb
  [完成后可按 Ctrl+Enter 发布]    恢复数据

主题回顾

匿名 发表于 2024-3-28 09:23

[attach]235306[/attach]

@阑夕:Meta 的首席科学家、「图灵三巨头」之一的杨立昆一直是 AGI 降温论的主张者,他的最近一场播客里完整的讲述了他的判断思路:

语言是低带宽的,平均每秒的接收量差不多是 12 个字节,一个标准的大模型训练量是 2×10 的 13 次方字节起步,相当于一个人要花 10 万年才能读完的文本。

看起来很多,但实际上视觉的传输速率是每秒 20MB,达到了语言带宽的 1600 万倍,一个 4 岁孩子所看到的信息总量,就比最大的大模型能够从互联网上进行训练的公开文本多了 50 倍。

这意味着三件事情:

1、冗余很重要,未必每个视觉神经都是有效的(你看到的大多数画面其实都不会记得),但从训练来说,冗余是自我学习的条件,冗余越多,越能接近世界全貌;

2、大部分的人类知识来自我们对于物质的感官体验,语言只是锦上添花,我们需要蛋糕来支持糖衣;

3、如果不能为机器充分提供高带宽的学习条件,达到人类水平的 AGI 是不可能做到的。

以及是的,人类可以在看不到的情况下也能发展智能,甚至在看不到也听不到的情况下也变得相当聪明,但没有触觉是不可能的,触觉也是一种高带宽的能力。

当前时区 GMT+8, 现在时间是 2026-4-5 22:21

清除 Cookies - 联系我们 - BBS - WAP - TOP - 界面风格

  • 默认风格
  • 喝彩奥运
  • 深邃永恒
  • 粉妆精灵
  • 诗意田园
  • 春意盎然
  • 黑色

Discuz!

Powered by Discuz! 6.0.0 © 2001-2007 Comsenz Inc.

Processed in 0.031914 second(s), 7 queries, Gzip enabled.