人工智慧有可能擁有所謂的意識嗎？
現階段人工智慧的學習方式可以說與人類學習或者思考的方式大相徑庭，而大多數持「人工智慧威脅論」的人無非把人工智慧擁有意識為前提，且先入為主地認為「把自身利益當作行動優先順序」這種屬於生物的思考特徵代入機器人思考裡面。那請問這種想法有合理性嗎？
網易智能（公眾號 smartman163）曾經創作過如下文章，希望能夠解答您的困惑：
忘掉如今人工智慧領域的小幅進步吧，比如汽車自動駕駛的能力越來越強。等待我們的可能是一項突破性的進展：一種能夠感知自身及其周圍環境的機器，它可以實時接收和處理大量數據。它可能會被安排執行危險的任務，比如被送進太空或參加戰鬥。除了開車，它還可以做飯、清潔、洗衣服——甚至當其他人不在身邊時，陪伴在我們身旁。
理論上說，一系列十分先進的機器幾乎可以取代所有的人類工作。這將使人類免於平凡的苦差事，但也會動搖許多社會基礎。沒有工作，只有玩樂的生活可能會變成一個反烏託邦（與「烏託邦」相對，指不幸之地，?這種社會表面上充滿和平，但內在卻充斥著無法控制的各種弊病）。
具備意識的機器也會給法律和道德帶來問題。有意識的機器是否在法律意義上可被視為「一個人」，如果它的行為傷害了某人，或者是犯了錯，它會承擔責任嗎？想想一個更可怕的場景：這些機器是否可能會反抗人類，並希望徹底消滅我們？如果答案是肯定的，它們代表了進化的頂點。
作為一名從事機器學習和量子理論的電氣工程和計算機科學教授，我可以說，研究人員對於這種超感知機器是否會存在尚有分歧。還有一種爭論是關於機器是否可以或者應該被稱為「有意識的」，就像我們對人類的看法，甚至是一些動物的意識一樣。有些問題與科技有關，而另一些則與意識的本質有關。
有「意識」就足夠了嗎？
大多數計算機科學家認為，意識是伴隨技術發展而出現的一種特徵。一些人認為，意識涉及接受新信息，將舊信息存儲和檢索，並將其認知過程全部轉化為感知和行動。如果這是對的，那麼終有一天機器將成為終極意識。相對於人類而言，他們能收集與存儲更多的信息，快速處理龐大的數據量，從而做出複雜的決定，比任何人類都更加具有邏輯性。
另一方面，也有物理學家和哲學家說，許多人類行為是無法由機器計算出來的。例如，創造力，以及人們所擁有的自由感，似乎並不來自於邏輯或計算。
然而，這些並不是關於「意識是什麼」以及「機器是否能實現」的唯一觀點。
來自量子理論的視角
另一個關於意識的觀點來自於量子理論，量子理論是物理學最深奧的理論。根據傳統的哥本哈根解釋，意識和現實世界是同一現實的互補方面。當一個人觀察，或在物理世界的某個方面進行實驗時，那個人的有意識的互動會引起明顯的變化。因為它把意識作為一種假設，並且沒有試圖從物理學中推導出它，哥本哈根的解釋可能被稱為意識的「大C」觀點，它本身就是一種存在的東西——儘管它需要大腦才能變成現實。這種觀點受到了量子理論先驅們的歡迎，比如尼爾斯波爾、維爾納海森堡和埃爾溫施羅丁格。
意識和物質之間的相互作用導致了悖論，在經過80年的爭論後，這些矛盾仍未得到解決。一個著名的例子就是薛定諤貓的悖論，在這種情況下，一隻貓被置於一種情境中，結果是它同樣有可能存活或死亡——而觀察本身就是使結果確定的原因。
相反的觀點是，意識是從生物學中產生的，就像生物學本身從化學中產生，而化學又反過來從物理學中產生。我們把這種不那麼廣闊的意識概念稱為「小c」。它符合神經科學家的觀點，即大腦的思維過程與大腦的狀態和過程是相同的。它還符合對量子理論的一種更近期的解釋，其動機是試圖擺脫多世界解釋的悖論，在這種解釋中，觀察者是物理學數學的一部分。
科學哲學家相信，這些現代量子物理學觀在古代哲學中有相似之處。"大C"就像吠檀多派的心智理論——在這個理論中，意識是現實的基本基礎，與物理世界是一樣的。
相比之下，「小c」則與佛教非常相似。儘管佛陀選擇不去解決意識本質的問題，但他的追隨者宣稱，思想和意識是由空虛或虛無產生的。
「大C」和科學發現
科學家們也在探索意識是否一直都是一個計算過程。一些學者認為，創造性的時刻並不是經過深思熟慮的計算的結果。例如，夢或幻像本應激發出Elias?Howe於1845年設計出的現代縫紉機，以及August?Kekulé在1862年發現的苯的結構。
一個案例與自學成才的印度數學家Srinivasa Ramanujan（1920年去世，享年32歲）有關。他的筆記本被遺忘了大約50年，直到1988年才被出版，筆記本中含有幾千個不同領域的數學公式，沒有推導過程，卻遠超那個時代。此外，他發現的這些公式方法仍然難以捉摸。他自己聲稱，在他睡著的時候，這些公式是由一位女神向他透露的。
「大C」的意識概念提出了一個問題，即它與物質的關係，以及物質和精神如何相互影響。意識本身不能改變世界，但也許它能改變數子過程演化的概率。正如康奈爾大學的物理學家在2015年所證明的那樣，觀察行為會凍結甚至影響原子的運動。這很可能是對物質和思想相互作用的解釋。
思想和自組織系統
意識現象有可能需要一個自我組織的系統，就像大腦的物理結構一樣。如果是這樣，那麼當前的機器存在缺陷。
學者們不知道自適應的自組織機器是否可以被設計成和人腦一樣複雜的東西，我們缺乏這樣系統的數學計算理論。也許，只有生物機器才具有足夠的創造力和靈活性。但是，這表明人們應該（或者很快）開始研究新的生物結構，這些結構或可能變得有意識。
本文最初發表於The Conversation。
選自：singularityhub
作者：Subhash Kak
編譯：網易智能
審校：nariiy
謝邀！
回答這個問題之前，首先要搞明白人腦與人工智慧的區別在哪裡。
目前的人工智慧是人腦的小跟班，就是人腦會的東西，人工智慧會做的更精。但是人腦有兩點優勢，目前的人工智慧無法超越。
1：人腦的創造力：這要源於腦神經元之間奇妙的聯繫。比如一個小孩他被開水燙傷過，那麼再遇到那種冒熱氣的，或者看起來很燙，比如說燒紅的木炭，他會預計到危險不去觸摸。這就是神經元的聯繫，把以往學到的經驗推廣到預知未來上。比如人看到鳥類飛翔，那麼他會去想著把鐵皮弄成翅膀樣，這就是飛機的起源。而人工智慧是沒有這個能力的，比如你教了它開水燙，它就不會想到木炭也燙這個事情，所以人工智慧演算法對訓練數據有一定的依賴性，對與訓練數據完全不同的未來數據，無法做出可靠的推斷。
2：人腦的情商：情感的部分，人可以通過喜怒哀樂調節身體，也可以通過愛，恨這些主觀情感來構架社會這一機制。人腦在強烈情感的刺激下，會奔發出驚人的潛能，雖然目前科學還不能解釋這種現象。但是毋庸置疑的是，人類的每一項重大發明裡，都有情感的影子。
如果人工智慧想要擁有意識，首先得先擁有這兩項能力。這兩項能力，可謂人類意識得靈魂。
人工智慧有沒有自我意識，相當於問人有沒有靈魂一樣，是個哲學問題。
自我意識是終極的主觀體驗，是不依賴任何經驗，不被主觀因素損限制，且不由任何物質和能量構成。相對的，自我意識是人感知物質的前提。
也就是說，任何由數據和演算法堆積的人工智慧都不具有所謂的自主意識。
但也不是完全沒可能。
在百年之後，人們像科幻片裏一樣，研製出一種能完全取代人腦神經的物質時，人工智慧纔算真正地具有了 「自主意識」！(那時，人們該怎樣和有自主意識的人工智慧相處呢？
像科幻片中一樣，人機大戰？像霍金所預言地那樣，毀滅世界？機器文明？機器公民？人機戀？我的回答是: 明天的事明天再說，未來的事等我能活那麼久再說…
我的答案是人工智慧這個人腦的模仿品最終會擁有意識，時間表無法給出。因為某種意義來說，人體也是一部各種功能組件整合在一起的機器，而這些組件的功能，目前的科技幾乎都能發展出他們的功能替代品，比如腎臟的功能是過濾血液，但是如果你的腎臟不工作了，我們可以用人造機器來代腎臟工作，好像醫院裡的血液透析器就是人造腎臟，功能上完全一樣，只是不易攜帶，另外心臟也就是一個小水泵，肺也就是一個碳的氧化器，腸胃也就是大分子有機物的組合解析室，還有其他骨骼皮膚口腔等，以現在的科技都應該不難實現人造的功能替代品。
現在就剩下大腦了，它還頑強的鎮守著也是不斷被蠶食著的造物主最後的尊嚴陣地，只要這塊陣地還在，造物主就依然還可以高高在上，繼續一籮筐一籮筐的收下人們膜拜的膝蓋。可是面對人類勇士前僕後繼的強大智慧火力攻擊，我覺得大腦這塊最後高地也喫棗藥丸，造物主也會被無情的趕下神壇，終結它對人類長達200多萬年的獨裁統治，在製造與解釋生命的國度裏我們人類最終會迎來更廣範的民主模式。
回顧過去，我們還是應該感謝造物主這位人民公僕曾經為我們做出不可替代的貢獻，展望未來，我們在今後的日子裡將會平等的與他攜手，共創更加美好的明天
不可能的，建議看下王垠的博客，有一篇關於人工智慧的寫得很好：http://www.yinwang.org/blog-cn/2017/04/23/ai
推薦閱讀：
