火爆ChatGPT背后别忘了AI的本质 - 老年从业者吃瓜想法

鲜红小嘴的爆米花 发表于 2023-03-18 15:13:53
推理能力, 可以评价强弱, 但是不好说没有, 举例来说, but not limited to, 知识图谱里的推理是很重要的一部分, 基于规则的推理, 基于算法的推理等, 这些都不是什么新东西.

我可以再举一个例子，为啥chatgbt会回答很多编程问题错误呢？ 因为LLM就是把历史编程语句前后文给你一个出现频率最高的结果做预测，结果怎样呢？ 除了网上stack overflow出现过的答案，稍微变通就会错，为什么这样呢？ 因为它只是给你一个历史训练数据集的频次最高解，你深度学习玩出花也是这个解，所以会经常跑出bug，因为它压根就没理解编程语言的逻辑，很多基本的编程规则都没理解甚至会生成假函数名，混淆不同语言的函数，python tab空格没打对这些低级错误，这种事情可不是加大训练量能解决的，因为它压根从来就没”学会”过编程。

你所说的corner case概率问题用在这个例子上反效果就出来了，你用深度学习的概率模型来生成代码，每一个语句和标点符号都可能出错然后整段代码跑不出，这跟人类学编程的模式就有本质区别。
有人学编程是只看很多代码不求甚解连什么函数干什么用的都不看就去学的吗？ 没有吧。那为什么自然语言能行呢？其实同样的问题也会出现，不过语料够多语法看上去没问题，但是很多答案依旧会有逻辑错误前言不搭后语，归根到底它只是给出一个最大概率历史数据的排列组合，从来没有真正理解过语言背后的逻辑和内容。

鲜红小嘴的爆米花 发表于 2023-3-18 18:13
推理能力, 可以评价强弱, 但是不好说没有, 举例来说, but not limited to, 知识图谱里的推理是很重要的一 ...

medical ai 这一块比您想的复杂，争议很多的。ai更多的是对人的augmentation。真的不能rely on it。

匿名用户 发表于 2023-3-18 17:30
medical ai 这一块比您想的复杂，争议很多的。ai更多的是对人的augmentation。真的不能rely on it。

这个"medical ai 这一块比您想的复杂"为什么这么说的? 能展开讲讲吗? 争议很多就不用多说了, 里边伦理的问题一时半会说不清的, 就说相对客观的部分, 比如"我想的"是什么, 还有, 哪里比我想的复杂, 请不吝赐教.

鲜红小嘴的爆米花 发表于 2023-3-18 18:36
这个"medical ai 这一块比您想的复杂"为什么这么说的? 能展开讲讲吗? 争议很多就不用多说了, 里边伦理的 ...

对您的意见在于，这个正确率是在什么情况下有效。可参考这个：https://www.youtube.com/watch?v=4-3jAJbA-sg

匿名用户 发表于 2023-3-18 17:43
对您的意见在于，这个正确率是在什么情况下有效。可参考这个：https://www.youtube.com/watch?v=4-3jAJbA ...

贴了一个接近2个小时的视频, 内容你都看了么?

正确率现在就在起作用, 很多医院在用AI作为初筛和辅助, 至于为什么不能用AI作为主要和唯一, 既有技术问题, 也有伦理问题, 后者的比重可预见的随时间增加.

鲜红小嘴的爆米花 发表于 2023-3-18 18:53
贴了一个接近2个小时的视频, 内容你都看了么?

正确率现在就在起作用, 很多医院在用AI作为初筛和辅助, ...

这个里面提出了一个问题，machine learning 比较好用的情况是 当问题模糊，但是stake比较轻，但在医疗的情况里，是问题模糊，high stake 。您刚刚说的情况，对于病人而言，stake是很重的，你可以说人眼看也犯错，但ai没有self correction这个特点，医生会根据患者情况做进一步分析，如果光靠ai 看图对病人很不负责。医疗过程是动态的，不是forward pass就完了。

匿名用户 发表于 2023-3-18 17:59
这个里面提出了一个问题，machine learning 比较好用的情况是 当问题模糊，但是stake比较轻，但在医疗的 ...

就说这个self-correction, 或者也可以说是self-improvement, AI是有这个能力的, 举我自己碰到的例子: 使用AI对怀疑癌症组织切片诊断, 最重要的两步是segmentation和classification, AI自己先进行segment, 然后人工检测, 如果有遗漏的, 手动标记, 那么若干次之后, 以后AI再碰到类似组织的切片, 准确率会明显提高, 甚至手动没有需要修改的; 我真不觉得AI这个能力会被质疑, 理论上这个generalization error不就是应该逐渐修正的么?

匿名用户 发表于 2023-3-18 17:59
这个里面提出了一个问题，machine learning 比较好用的情况是 当问题模糊，但是stake比较轻，但在医疗的 ...

你这里说的诊疗过程不是一个医生完成的, 单就radiologist读片来说, 给出影像学诊断,forward pass差不多就是这样吧

匿名用户 发表于 2023-3-18 17:27
我可以再举一个例子，为啥chatgbt会回答很多编程问题错误呢？ 因为LLM就是把历史编程语句前后文给你一个 ...

"LLM就是把历史编程语句前后文给你一个出现频率最高的结果做预测" LLM的工作原理不是这样的吧, 且不说各种算法和模型越来越复杂, 如果这么简单, NLP也不用等这么多年才有chatGPT, 即使更早期的LM, 也是要各种算法计算路径, 距离, 跑各种模型的? 上下文只是众多的因素里边的一个, 相对比较好处理的一个.
chatGPT就是用stackoverflow, 稍微变通就不会了? 是这样吗? chatGPT出来之后, stackoverflow第一个把它给ban了, 如果尽在掌握范围也不用这么紧张兮兮的了

我觉得您说的话漏洞在于未考虑到，很多人的工作本身并不需要太多智能。一个ChatGPT每年订阅只需20刀，可以想象会带来多大的变革了。而且Transformer瓶颈未现……