聊聊AI,ML,copilot,GPU微电子,高频存储的眼前辉煌
硅谷工匠 (2024-08-25 08:38:22) 评论 (8)Meta今天决定不拼Meta头显了。
今天看到，脸书的小扎亲自把高端头显的项目砍了。牛。哪里来的底气和领导力？就是他到另一个更高的维度去圈地。
微软和脸书的AI/ML工程师工资奖金动辄就是五十万起步。为什么如此厚待？
人世间很多东西，都是一开始看不懂，后来不喜欢，然后才发现自己晚了。希望这次不是这样。一下谈谈我理解AI的精髓。
AI是读了几百万本大书训练出来。短短十年，就有了两千岁的阅历。
今天·给大家聊一聊AI和微电子的干货。会影响每一个人的未来生活呦。
AI你必须知道。你可以diss，但是必须知道。
为什么做高频存储（high bandwidth memory）的和老黄的GPU都赚翻了？
AI到底有没有用？
GenAI 和AGI，那个是真的？
Co-Pilot算不算革命性产品？
到底什么算AI，什么算ML？以下我把几个概念归了类。
这是我们短暂人生最大的一件事情。我们经历了文革，六四，互联网，入世，新冠，美国文革。但是AI对我们的影响最大。让我告诉您为什么。
===
机器学习，专家系统，CNN，LLM，GenAI，AGI的轨迹
大数据早就有，只是计算机最近才可以掌控。数据和听统计除了描述，还可以预测。infer就是所谓智能。
人是有情感的。看了一部抗战神剧就可以说我恨所有日本鬼子。但是机器是靠数学建立严格的逻辑。计算机会把所有生下来以后和以前的所有日本人都调出来研究一下，才敢说某个特定日本人是不是都值得恨。这就是两千岁的人和几十岁的人的处事区别。
以前模式识别靠decision tree（决定树）。现在不行了。现在电脑可以从一堆浆糊里面找到金子。人只能理解两个维度。高端理工nerd可以靠直觉搞到三四个维度。但是计算机是上万维度的思维。计算机可以知道，如果哈里斯说“您的意思是？咱们意思意思？我知道你的意思，意思到了就行了”。计算机可以告诉你这里面哪个“意思”是本句话重点。它计算机可以精准的实时翻译给老习，而不是说“your meaning? we meaning meaning? I know your meaning. meaning enghou OK".
为什么AI和微电子挂钩？让微电子公司股票上扬？
因为AI的基础就是计算。
微软为什么ALL IN？
微软的copilot是一个消费端的应用，以后是可以赚很多钱的。给你很多初级的糖果尝尝。copilot可以干什么？
- 可以生成画面
- 可以自动写代码
- 可以自动写简历，比你自己写的还好
- 可以画画，比你学了几年的闺女画的还好，而且几秒钟
- 可以作曲，可以写歌，可以写笑话，可以把照片美颜，都”一句话的事“。以前还要学操作流程和攻略。
Copilot 电脑同时用Intel，AMD，和高通的ARM芯片。三心合一。
这些都瞬间没用，交给广东专门拆的村子，练出一点金子。其他一把火烧掉。
---
不知道AI，未来三十年都白过
如果你要开一家餐馆，您不知道太多的事情。需要很多试错。几十年以后，你积累很多经验。那时候你穷困潦倒，离婚了，有一家面汤馆子，勉强度日。
但是您不知道，在你还没开业时候，您几十年以后想要知道的事情，计算机都已经“知道”。都在某数据库。几十年几百年餐馆的类别，投资，成败，数据都有。也就是说，AI可以降维打击个人。如果您有钱买这些数据，计算机可以精准告诉你在那个村那个街口花多少投资开一个什么餐馆，室内装潢设计，菜单设计，厨师团队选人，一起搞定！
但是AI就是不告诉您。知识是钱。在数据里淘金是钱。
当然这不限于餐馆。这个包括所有的就业，创业和所有领域。计算机买了大数据，然后CNN在数据里看出理工nerd看不出的东西。
爱因斯坦住你家了
AI代表的不是噱头，而是
1. 一个超级专家系统，相当于爱因斯坦和马斯克住在你家！马云给你看门。
2. 一个超级的生成系统，可以勿用担心版权就可以抄任何人！
3，简单工作，比如写几百行script（记住这不叫编程，只是搬砖），机器都可以照猫画虎帮你搬。它、她，他(It/its)熟读唐诗三百篇。记住人家不睡觉。
史上世上最大的一次圈地运动。您和您的孩子参与了吗？
这么多人需要建立专家模型，以后赚钱。这是新一轮圈地运动。这些模型的训练，动辄几万亿节点。每一次训练，都要进行几百乘以几百的阵列点积计算（dot product）。每一次计算的结果都要快，而且瞬间扔掉。
中国人会速算，可是这个速算也太快了。这是上千阵列快速计算，几个皮秒就好，然后几个皮秒微电子清零，从新来。
Meta不做meta了
小扎亲自砍了项目。基本就是说，meta不做meta了。Meta脸书公司的核心，就是把广告商的广告推荐给你。这就叫赚钱。这个匹配虽然并不重要（因为脸书的匹配基本就是骗），但是也是bottom line。
微电子军备竞赛，在后摩尔时代，居然进入骨髓级别。
高频存储，太牛了。这是几十年硅谷台湾技术的集中操练。是一次新的军备竞赛。几十片芯片的堆叠，测试，封装，销售。SKHYNIX目前占了大头。低端存储比如长江存储，2019很牛，现在突然被打回封建社会。
您的孩子，如果还在好好读书做题，那么登顶的机会就已经在每天变小。赶紧拼，以后的竞争对手是手拿AI坐拥资本的人和老钱。有老钱，就可以买智慧，买经验，降维打击你的儿孙无穷代。
评论 (8)
回复 '野性de思维' 的评论 : GenAI迟早会变成AGI。要为这个发生以后的世界做准备了，也许在我们有生之年会发生。那时候，计算机就知道自己说的话是什么意思了，也开始真正原创性的发明possibilities。
三十多年前，曾经研究过神经网络的自适应算法，就是让由可编程序写成的模块，能根据不断输入的大数据和新数据，来完成和进行自我的学习和调整，以期产出最佳想要的结果来。估计当初的那些原始算法就是当今AI的前身吧？其实，AI的想法早就有了，一点都不新鲜，新鲜的是，除了AI现在是老美手中还打得动的牌之外，它在别的领域的优势正在一点点地丢失。想要继续维持自己在世界科技领域的霸势，它就必须得整出点所谓的新活来，让世人看看老虎还没打盹呢。于是，AI就这么横着出世了。
回复 'dhyang_wxc' 的评论 : 同意你的说法。就是这样。趁着AI还早。。。
回复 '硅谷工匠' 的评论 :
【working as your assistant】, 是個絕對關鍵。避免被無知的人用assistant打敗你，或者assistant反客為主，用算法驅使無知的人來攻擊你，是個前提——否則，難逃為魚肉。【好的】《1984》在將來會存在麼？哥德爾說，總會出問題；墨菲說，定會出問題。；）
Mr. Yang: nice interesting writing.
AI even the AI today have read ALL BOOKS IN HUMAN HISTORY. It is like a 2000 year old man working as your assistant. Eventually poor people will be left further behind.
Humans are trained way more poorly than computers. If All humans are trained well, they would all vote for the same political candidate. They would never be fooled by stupid promises, and they would not have low information but big ego.
The way humans are educated is a big sham.
回复 '硅谷工匠' 的评论 :
是，善於用AI將是個criticality。
我不是相關專業，但很關注，寫了些不能被AI嚇倒或純粹依賴AI的文章。戰略藐視，戰術重視。有興趣可以看看：https://wordpress.com/post/daohuanblog.wordpress.com/1240
People have limited life time. After 50, you must accept it. What becomes apparent is this: if we don't do anything, our children and their children will repeat what we went through.
這篇有意思。
躲過了「文革，六四，互联网，入世，新冠」，正在躲「美国新文化運動」和「文革」間過度階段，AI大概真的是躲不過了。每一次都是人為刀俎，不知這一回是做什麼肉。。。。：）
硅谷工匠