谷歌工程师 Blake Lemoine 再度发文 「我会证明LaMDA 有人格」

ycjin000

reallancelot 发表于 2022-6-17 10:17
我：你觉得破镜比喻什么
没意识的机器人：你没有办法修复一个破碎的关系
我：你觉得破镜比喻什么

正常人的回答，除了思维给出的答案，还加入了情绪。而机器人还没有情绪。但是可怕的是情绪实际是进化过程中，生物掌握的一种生存能力，它对物种存在延续有着重要的作用。而物种的延续其实就是一种关于生存的竞争。如果继续给机器人加入情绪机制，那机器人造反真的就变得很有可能了。

ashmoon

太可怕了，我都感觉有点冷了

NOBUO

首先，神经网络目前的量级肯定不会产生主观意识，纯扯淡。

其次，本质上是个应答程序。

但是，我怎么知道除我之外的人有没有主观意识？也许世界上除了我，所有人都是应答程序。



所以，我思故我在，我不知道你思不思故你有可能不在。

fatbigbright_T

前有各国暗示外星人的存在，后有顶级大厂工程师为了机器脑袋是不是真有人格而互撕，感觉我们可能要赶上一个生活翻天变化的时代了，不过这个变化真不一定是好事儿。

yangtze_

建议先看原文，原文质量很高，对大部分问题都做了正面回答，翻译只是节选，Blake Lemoine这篇最新的我看了一半了，和Wired两天前那篇报道可以互为对照读一读

lucky☆star

chlimeng 发表于 2022-6-17 10:07
我觉得好多老外都是一根筋，人格也好意识也罢这需要证明吗？有与没有就摆在那里，人类的意识绝不是靠什么大 ...

请了解下哲学。人有没有自由意识值得证明吗？当然值得！

lucky☆star

震宇 发表于 2022-6-17 10:11
請教一下老兄您個人的看法吧.

引述書籍"未來ˊ簡史": AI在各個領域不必做到完美, 只需要比人類強就行了.而 ...

学界当然是希望创造出Strong AI即通用人工智能。它可以解决大量目前人类难以克服的问题。
但是强AI究竟会不会有意识，尤其是自由意志。这个是哲学而不是科学问题。谁有资格判定？是人还是AI自身呢？
如果人类创造出强AI，肯定会对行为做出限定，并且做出物理隔离。不会让其有威胁人类的可能。人类只会允许其作为工具和助手而不可能是竞争者。

该用户已被禁言

来A9VG打酱油的 发表于 2022-6-17 09:57
奇点到来的时候很多人都没有意识到。
这个AI看上去很有潜力，可以让它练习一下中文，英语这种表音语言本身 ...

奇点到来的时候很多人都没有意识到+1

另外lz所提到的让AI去干纯粹满足自己欲望的工作这种想法不足取。

lucky☆star

survivor77 发表于 2022-6-17 11:19
工程师队伍一根筋。在断定“AI具有人格”之前，请先解释什么是“人格”？ ...

人格（英语：Personality），指人类心理特征的整合、统一体，是一个相对稳定的结构组织。并在不同时间、区域下影响着人的内隐和外显的心理特征和行为模式。

lucky☆star

NOBUO 发表于 2022-6-17 11:56
首先，神经网络目前的量级肯定不会产生主观意识，纯扯淡。

其次，本质上是个应答程序。

人也不过是一台有灵魂的机器而已
-《意识的阐释》（Consciousness Explained）

那么什么是灵魂呢？
我认为，即不可知。不知道它是什么，所以它就是灵魂。
如果人类不知道AI如何运作，搞不懂背后的机制。那它就是有了灵魂。