AGI教

[hci]

这个华女的访谈有点意思。AGI就是一个宗教。本版就有这样的教徒。在教会（比如OpenAI)呆久了，非信徒也会变成信徒。

[wmysh]

https://www.zerohedge.com/ai/maybe-ai-i ... -after-all

Let's summarize AI's fundamental weaknesses:

1. AI doesn't actually "read" the entire collection of texts. In human terms, it gets "bored" and stops once it has enough to generate a credible response.

2. AI has digital dementia. It doesn't necessarily remember what you asked for in the past nor does it necessarily remember its previous responses to the same queries.

3. AI is fundamentally, irrevocably untrustworthy. It makes errors that it doesn't detect (because it didn't actually "read" the entire trove of text) and it generates responses that are "good enough," meaning they're not 100% accurate, but they have the superficial appearance of being comprehensive and therefore acceptable. This is the "shoot from the hip" response Ian described.

[cover]

我最先说的，这波AI泡沫就是刷题

利用磁盘空间的计算的进步，把题目特征和解法刷题近神经网络，存储下来

这样做法，差不多20年了吧，和人脑是背道而驰

[wmysh]

我很期待高盛用AI写代码的结局如何。

[abovetherim]

As cited in his 2013 blog, Sam Altman stated, "Successful people build companies, more successful people build countries, the most successful people build religions". He then reflected on this, saying, "It appears to me that the best way to build a religion is actually to build a company" 窝草，那这货的所有言行都能完美解释了，呵呵。

[cover]

刷题没啥用

人刷题，因为人脑的触类旁通的学习特征，还能学到一些技巧，本质也没啥大用，高分低能就是说刷题的

对AI，刷题根本就是歪门邪道，挺适合骗不会思考的人

世界很多东西都是重复的，刷题确实看着效果显著

可是如何处理那些特殊的，非重复性问题，才是人脑的精髓，是人能够在恶劣环境下生存到现在的原因

[cover]

到最后，刷题的AI就替代不了啥工作

因为知道如何处理特殊性问题，是人脑基本特征，连智商80的都会，除非是傻子

工作了经常会出现无法预料的特殊情况，AI是刷题的，只知道处理常见情况，最后还得靠人处理特殊情况，等于没法替代神马工作

谁有本事知道下一刻工作是不是遇到特殊情况，工作给你了，就是让你常见和特殊情况都能处理，不会问问其他人

不同智商能做不同工作，智商80的工作，没法编程，可能比较简单，但是一样有特殊情况，AI不刷题还是不会。智商80的不刷题也会特殊情况，因为这是人脑基本特质。

AI的口头禅就是再用新的数据训练一下，就是再用新的题目刷题一下

[cover]

别看AI吹嘘考试如何厉害，能做奥林匹克数学得金牌，这个根本不能代表聪明

智商80的人，知道如何处理的特殊情况，AI不刷题还是不会，这是刷题AI的特点

你们可能不明白，给个简单例子，智商80 也会开车，可能也开的很安全。因为智商80 知道如何发现和处理路上危险

所以智商80能做很多，号称奥赛金牌的AI不会的，简单事情

[hahan]

搞技术的人头脑毕竟简单
Sama那人我第一印象就是人品有问题 心术不正
还有ms的萨提亚

[omicron]

视频太长了

AI这种东西难搞，因为要和上帝的大脑比

其实不是上帝，是高维度空间的源头创造的灵魂意识比，所以基本没啥成功可能，人家技术太先进了。

就是我们身体分子生物技术，据说是来自仙女座外星人的技术，比源头技术差的远，人类都不能企及

你只要一眼看到宇宙本质，就能明白

所以基本每次都是泡沫，这次也不例外

[abovetherim]

搞技术的人头脑毕竟简单
Sama那人我第一印象就是人品有问题 心术不正
还有ms的萨提亚

这个人，还有Anthropic那个，再加个亚历山大王，都长得特像科幻电影里的典型反派，不知道是不是巧合

[stm32]

这波ai是‘’刷题教‘’

用考试成绩让你们觉得它好像智商很高，和以前ai围棋，国际象棋的骗法一样

但是除了帮学生作弊，ai参加考试没啥用，就是一个骗术。

[赖美豪中]

我觉得你这个逻辑不对，工作里之所以出现各种无法预料的情况根本原因是人是用户，就好比常见的一个笑话，马工穿上避弹衣让用户测试效果，用户一枪打在腿上一样。
等AI把人全换了就好了，大家都在同一个轨迹上刷题

到最后，刷题的AI就替代不了啥工作

因为知道如何处理特殊性问题，是人脑基本特征，连智商80的都会，除非是傻子

工作了经常会出现无法预料的特殊情况，AI是刷题的，只知道处理常见情况，最后还得靠人处理特殊情况，等于没法替代神马工作

谁有本事知道下一刻工作是不是遇到特殊情况，工作给你了，就是让你常见和特殊情况都能处理，不会问问其他人

不同智商能做不同工作，智商80的工作，没法编程，可能比较简单，但是一样有特殊情况，AI不刷题还是不会。智商80的不刷题也会特殊情况，因为这是人脑基本特质。

AI的口头禅就是再用新的数据训练一下，就是再用新的题目刷题一下

[cover]

我觉得你这个逻辑不对，工作里之所以出现各种无法预料的情况根本原因是人是用户，就好比常见的一个笑话，马工穿上避弹衣让用户测试效果，用户一枪打在腿上一样。
等AI把人全换了就好了，大家都在同一个轨迹上刷题

我后面举例了，智商80做司机，很常见的，路上会遇到各种特殊情况

不是只有人才会引起特殊情况

[赖美豪中]

路上的情况也是人造成的，这就是为啥专家系统特别难开发的原因，因为人的想法千奇百怪。通用类网页类应用最好开发，这也是ai生成的最好的一部分，你可以轻松生产个facebook, x这种系统，因为规则完全机器指定

我后面举例了，智商80做司机，很常见的，路上会遇到各种特殊情况

不是只有人才会引起特殊情况

[cover]

路上的情况也是人造成的，这就是为啥专家系统特别难开发的原因，因为人的想法千奇百怪。通用类网页类应用最好开发，这也是ai生成的最好的一部分，你可以轻松生产个facebook, x这种系统，因为规则完全机器指定

不是人造成也很多的，比如路断了，自然灾害

就算是人造成，可能还是高智商的码工司机，你能把这些高智商司机都杀了？

唯一不受特殊影响的是考试，考试特殊题目占比少，只算总分，一道不会，90分，和100分，差别不大

[cover]

还忘了，还有一个不受特殊影响是诈骗，假新闻什么，这种骗一个算一个，特殊就是不受骗的

ai假新闻现在很多，诈骗也很多

ai自己也诈骗，美其名曰幻觉

[cover]

大模型训练本质就是刷题

你们看事物，如果能快速看到事物本质，就会想明白这点

这和人脑是完全不同的

[sporky]

这个问题容易解决，把容易犯错捣乱的人类都抓起来扔进集中营或者干脆人道毁灭，这样人工智能自动驾驶自动工厂就可以不受干扰的永远运行下去了，完美！

[iDude]

Thanks for the intro. Reading her book "Empire of AI". She is obviously a liberal socialist. But AI religion has become the opposite extremism. Not easy to strike a balance.