火爆ChatGPT背后别忘了AI的本质 - 老年从业者吃瓜想法

mrjerry 发表于 2023-2-14 22:32
虽然还是同样的性质，虽然容易出错，chatgpt推理过程是真的有啊

I apologize for the mistake in my prev ...

没说他完全不会推理啊。。。说的不就是容易出错，会不会出错极大依赖于训练集吗。。。

补充内容 (2023-02-15 14:41 +8:00):
他yes or no都能给你编出一套推理出来，不就证明了他根本不理解吗。

补充内容 (2023-02-15 14:43 +8:00):
你再和他说一遍Actually the answer is True他立马能给你回到答案True然后继续编出来一套推理。

mrjerry 发表于 2023-2-14 22:56
在推导过程中出错，或者是被别人的提示所影响答案，这也都是人类的问题。
. 1point 3acres
楼主的论据是ai一直在死记硬背 ...

很多人都说过了，AI现在做到的就是直觉。他知道直觉上怎么样能得到正确答案，仅此而已。
p.s. 不会回复了，如果层主感兴趣的话，欢迎多看paper甚至去读个phd。

匿名用户 发表于 2023-2-14 21:35
同意Chatgpt能一定程度简化人工，的确有些很重复性的岗位可以替代，但是这个过程更像是一个编程自动化， ...

强弱都是自定义的, 如果觉得AI只能替代高速收费亭, 我觉得挺危险的, 在所有领域的认证考试中, 司法和医学是普遍认为较难的, 里边对知识的掌握, 逻辑分析, 推导推断, 伦理理解的要求都是相当高的, AI都已经达到或者接近通过的水平, 而这两个领域的paraleagel和radiologist/pathologist是首当其冲被部分替代的, 这种替代应该是温水青蛙式渐变的需求降低, 不会暴风骤雨式的, 因为AI进步和迭代需要时间,  另外现实的伦理要求也不会过度那么快, 但是这种变化是能感受得到的, 看看3-5-10年前什么情况(CV好像是从2012年开始大跃进的?), 就知道3-5-10年后大概会是什么情况了.

先把定义搞清楚吧，AI的普遍接受的定义是什么？没有定义，那就是公说公有理婆说婆有理。
话说回来，ChatGPT能通过图灵的测试了吗？

鲜红小嘴的爆米花 发表于 2023-2-15 03:19
强弱都是自定义的, 如果觉得AI只能替代高速收费亭, 我觉得挺危险的, 在所有领域的认证考试中, 司法和医学 ...

你这个radiologist/pathologist的例子。。IBM Watson就是想这么干结果死掉了。  paralegal更不可能了，这类工作不只是简单填表判断，是不断要跟客户/医生/律师/法官打交道的，容错率超级低，像chatgbt那样，随便说一句胡说八道的，整个律所/医院的reputation就没了甚至还会被告损失惨重， 这是属于我提到容错率极低的行业，所以取代程度是最难的 （还有银行柜员），他们的工作的确会少了很多极度重复和低级的任务，但是有很多业务上的突发情况，你还是得去和人沟通。

归根到底还是supervise learning这个机制，出来的结果不管什么算法去learn，都没法举一反三， 更无法保障每一个prediction的准确率，需要加大量hard-coded rules， 问题是这些hard-coded rules太多了，想加也不一定知道如何加起，CV发展是越来越准，但是永远也没法应对training set之外新的路况，所以无人驾驶才那么坑啊， 现实就是无人驾驶CV还是不行，全部得加雷达，进行物理感应加hard rules才更安全一点，所以还是期待一个新的算法框架才行，现阶段靠海量数据learning的模式走不出数据量的局限，简单来说就是智能没进化。 要真的蜕变，应该是学习了海量数据之后，学习新事物所需要的时间越来越短，而不是有1b数据，来个新组合我们至少要1m的training data那样，ideally有了1b的数据，我们只需要1 row record新事物，我们就能从此准确predict 这个新事物了， 这个感觉超越了深度学习框架所能handle的事情，说不定需要连整个supervised learning / ML的框架都需要革新。

匿名用户 发表于 2023-2-14 14:45
买菜计算器算加减乘除早就比人好了，是不是买菜计算器就有智能了？ 具体一项任务比人做得好的工具我们每 ...

我不太懂人工智能，我来给你讲讲逻辑：
1. 如果你要说它有没有智能，你先得定义什么叫智能，或者说大家本身存在共识什么是智能；你说那东西不是鸭子，总得大家都明白什么是鸭子，是吧？
2. 你在这发帖，所以你的定义必须是这儿的受众所能接受的。你可以在这讨论一个东西是不是鸭子，因为大家大多数都知道鸭子是啥，你如果拿出一个大家没见过的动物，在这言之凿凿地说是不是，只能是你走错片场了。

就你一直举例的说计算器加减乘除用来举例为没有智能，如果我就陪你杠我认为计算器就是有智能，你拿什么来说服我了？

再说下去，谈技术有两个大的角度，科研角度和工程角度，科研角度是追求完全正确，而工程角度的基础就是必须通过工程来保证错误可以被mitigate。你首贴的文字从科研角度也许是对，也许是错，我只知道这个论坛大多数人实际上没有能力，而我这种工程师甚至没有兴趣去理解基于科研的定义，这个东西有没有智能。举个例子来说大家的区别，可以说是最伟大程序员的Linus是得不了图灵奖的，反过来得了图灵奖的诸位大多数好像也没能真正做好一个业务系统，无他，大家侧重点不一样；这两拨人可以互相尊重，但是估计不会在一个技术论坛混。

flyingforce 发表于 2023-2-15 13:25
我不太懂人工智能，我来给你讲讲逻辑：
1. 如果你要说它有没有智能，你先得定义什么叫智能，或者说大家 ...

请把首页看全，我已经补充了：

“最近还有朋友提出，既然能够进行一定的自动化，act like human， 就是有智能的代表，是可以取代一定的人工工作。 其实这个问题人工智能领域也早有讨论，究竟什么叫“智能”？ 楼下有很多评论说我是自己主观定的，其实不然，这个问题已经被广泛讨论，基本共识就是把人工智能分为弱人工智能和强人工智能，随便推荐一篇文章：https://builtin.com/artificial-intelligence/strong-ai-weak-ai
或者wiki：https://en.wikipedia.org/wiki/Weak_artificial_intelligence
或者中文简短解释： https://easyai.tech/ai-definition/weakai-strongai-asi/”

人工智能这个领域早就把什么叫智能已经定义好，你会看到很多论文和讨论都有引用相关概念，不是我主观订的。 当然你可以有你个人的想法，我就是引用这个领域最被普遍接受的人工智能定义而已， 如果不认同那确实观点也不同，尊重你的想法。

匿名用户 发表于 2023-2-15 11:06
请把首页看全，我已经补充了：

“最近还有朋友提出，既然能够进行一定的自动化，act like human， 就 ...

我看到你所引用的什么弱人工智能和强人工智能，这就是我前面所说的，你走错片场了，这个是你的行内的定义，不是这个论坛人的共识；你拿着一个大家并不认可的定义来这说本身就没什么逻辑啊
. .и
关于第二点问题，给你举个例子吧，如果有一天，人类的DNA技术发展了，可以直接通过鸭子的DNA制造鸭大腿了，然后大家开始吃这个鸭腿了，有个人出来叫这不是鸭子，因为没有鸭头鸭脚，关键是没有鸭的生命和灵魂，我可以同意你的观点，但是这个不妨碍我们吃这个鸭腿，是吧？当然如果到专研克隆技术的网站这个人的说法是有人听的，但是如果这个论坛是厨师论坛，甚至是吃客论坛，去讨论这个鸭腿有没有灵魂并没有什么意义，有意义的是讨论这个鸭腿味道正不正，怎么才能做好吃。

No offense, 你在这个帖子的问题就是这两个：
1. 你说不清楚你所说的“不是智能”的智能是啥-》你有定义，但是你的定义并不是这个论坛人的共识，所以你一直是在鸡同鸭讲
2. 即使你所说的“不是智能”是正确的，我猜对于论坛大多数人是没有意义的，这个论坛大多数人不是从业人员，只是在惊叹于这个新工具可以带来的对人类的变革，琢磨怎么更好地使用这个工具，而并不在乎他是不是楼主所认知的智能。