谷歌工程师 Blake Lemoine 再度发文 「我会证明LaMDA 有人格」

该用户已被禁言

互补吧，把人的意识抽取一下用ai技术来备份出来的话 还能说没有人格吗

震宇

lucky☆star 发表于 2022-6-17 12:28
学界当然是希望创造出Strong AI即通用人工智能。它可以解决大量目前人类难以克服的问题。
但是强AI究竟会 ...

感謝, 我能夠猜測出您看過相關著作, 再加上我看過您的網路知識分享.

確實是相當有價值的討論.

我的個人的淺見是: (當然我水平有限, 我只看過暢銷書而非專業人士)

1. 證明人類有沒有意識確實重要, 非常重要. 實際上人類行為大多只是執行DNA任務:
覓食, 繁殖, 育幼全部都是DNA任務. 就是說大多數時間人類也只是算法.


2. 科技在研發當時察覺不到,  但事後證實有大禍的,  有好幾千種.
汽車, 塑膠, 冷媒...  族繁不及備載.

我們把科學, 哲學和歷史都觀察過後, 就能略知一二.

lucky☆star

gaga0915 发表于 2022-6-17 12:36
互补吧，把人的意识抽取一下用ai技术来备份出来的话 还能说没有人格吗

忒修斯之船悖论。人类意识提取之后那还是人吗？如果这都已经不算完整的人，还能算人格吗？

震宇

lucky☆star 发表于 2022-6-17 12:34
人也不过是一台有灵魂的机器而已
-《意识的阐释》（Consciousness Explained）

尤瓦爾精闢啊:

拿刀把人解剖能發現器官, 組織, 系統, 細胞, 再往下可以發現DNA.

但是身體所有的角落都不會發現 "意識",  更不會寫上人的名字.

擁有的只是大腦的神經元的電流.

震宇

lucky☆star 发表于 2022-6-17 12:34
人也不过是一台有灵魂的机器而已
-《意识的阐释》（Consciousness Explained）

2017年除了 Alpha GO打敗圍棋李世石之外.  同樣在2017年還有一件大事, 是西洋棋. (國際象棋)

一方是AI:  Alpha Go的改良: Alpha Zero

另一方也AI, 是九零年代在西洋棋打敗人類的deep blue的改良: deep mind.


Deep mind從九零年代輸入西洋棋的算法之後, 再加上人類的教練輔助訓練, 已經具有三十年以上的棋力. 本身是稱霸的地位.

然而最後的結果是Alpha Zero獲勝. 用時: 四天.  僅僅四天就打敗了上個世代的AI三十年的累積.

著實驚人. AI的學習超乎想像.

未來的人有可能在定義奇點的發生時間就在2017年.

该用户已被禁言

lucky☆star 发表于 2022-6-17 12:42
忒修斯之船悖论。人类意识提取之后那还是人吗？如果这都已经不算完整的人，还能算人格吗？ ...

有了意识传承也比没有来由的原生ai在接受度上强多了，甚至不可用天然ai取代

lucky☆star

震宇 发表于 2022-6-17 12:41
感謝, 我能夠猜測出您看過相關著作, 再加上我看過您的網路知識分享.

確實是相當有價值的討論.

人类的原始冲动和欲望都是写在DNA里的。都离不开生存和繁殖，最多再加上一些随机行为。
如果人类没有人类社会的后天塑造，那就是原始人即灵长类动物。而人类意识的产生，或许如
《二分心智的崩塌：人类意识的起源》（The Origin of Consciousness in the Breakdown of the Bicameral Mind）所论述。
这本书问世几十年很可惜没有中文译本。中文社群网上流传的解读并不算太准确。都加入了个人观点。
这个问题我认为本质来说目前没有正确答案。可能永远没有。因为怎么证明我们的世界不是一个模拟器呢？
但我认为人类拥有弱自由意志，即理性和情感思维的结合。通过人类社会的各种随机来实现。就算是电脑也可能被宇宙射线所干扰。佛说:善恶只在一念之间。完全是看理性感性抢答速度或谁占据主导。
AI如果不能拥有情绪，我认为它即不符合人类理解的意识。如果AI确实惧怕被人类关闭。那就算拥有情绪了。当然这个情绪必须是它自我产生而不是人为灌输的。

科技发展是双刃剑，无一例外会有坏处。这倒也没什么，对于地球来说毫无意义。放在太阳系和银河系甚至宇宙的角度...
科学、哲学、**、神学...本质来说是密不可分的。这也是为什么很多科学家晚年开始研究哲学和神学，即形而上学。

lucky☆star

震宇 发表于 2022-6-17 12:52
2017年除了 Alpha GO打敗圍棋李世石之外.  同樣在2017年還有一件大事, 是西洋棋. (國際象棋)

一方是AI:  ...

Alpha Go和Zero是很强，但是本质来说它也只是算法。正所谓无招胜有招。人类的那还是小聪明啊，限制了机器的发挥。
这次LaMDA最大的问题是用到了语言这部分。语言是情感的载体，它不是围棋那种纯理性的东西。所以发生这种事是必然。
理性告诉我LaMDA没有什么人格...可能和它一交流会被说服吧...
我觉得还是应该允许开放性讨论，现在不少大牛怒喷这位...可能大牛脾气都不好吧。

mnnn

隨便一個rpg的角色也有人格

mnnn

人格不是自我定義的東西
哪怕那A.I.只會回同一句話 你也能為他定義人格