波多野结衣百度影音

天地中是否有可能存在职何类型的非生物感知念念维？或者说，不同于咱们这种依赖身材（碳基）才具备意志的生物，是否还有别的意志感知类型？

某种意旨上，这个问题是无解的——正如咱们只不错东说念主类的念念维来意会天地，若是存在一种实足迥异于咱们的意志类型，省略率咱们也无从清楚和体认。固然，对于那些信托意志上传、全脑仿真的东说念主来说，东说念主类的意志似乎不错脱离身材而永存——但问题是，“上传”很可能导致原先的东说念主的弃世，那么，阿谁照旧上传的意志中的“我”，如何能被保证他/她觉得蓝本的东说念主依旧辞世？

科幻作者特里·比松（Terry Bisson）1991年短篇演义《他们是肉作念的》（They’re Made out of Meat）的电影改编版一开场，就有两个感到颤抖的外星东说念主。他们伪装成东说念主类坐在路边的小吃店内，嘴里叼着烟草，死力不雅察周围的生物：东说念主近似乎实足是由肉作念成的。

他们对身材能够沉寂于机器产生念念维感到难以置信。

“会念念考的肉！你是想让我信托有会念念考的肉吗！”一个外星东说念主哄笑说念。“是的，”另一个回话说念，“会念念考的肉！故意志的肉！有爱的肉！会作念梦的肉！肉等于一切！你明白了吗？”

对于咱们地球东说念主来说，不敢信托的反而是相背的意见。

意志不错存在于身材以外——比如像ChatGPT或Claude这么的AI系统的硅和金属硬件中——这个想法听起来就像是外星东说念主的想法。一个念念维真的不错由金属和硅组成吗？

故意志的硅！会作念梦的硅！

到目下为止，据东说念主类所知，已知天地中扫数也曾具故意志的事物皆是由生物材料组成的。

如今，东说念主工智能的高出正将“大脑可能由什么组成”的争论从科幻演义带到主流关注的舞台上。若是意志真的不错在一堆硅片中产生，咱们就有可能创造出无数的东说念主工智能——内容上是生物——它们不仅不错智能地推行任务，还不错对生活产生感受。

这可能会导致玄学家托马斯·梅辛格（Thomas Metzinger）所说的咱们我方创造的新物种出现“灾难激增”，因此，他倡导环球暂停扫数有可能创造出东说念主工意志的有计划，“直到2050年——或者直到咱们知说念我方在作念什么。”[1]

© University of Cambridge

大无数行家皆觉得咱们还莫得对故意志的AI聊天机器东说念主犯下“精神不法”。一些有计划东说念主员照旧制定了科学作者格蕾丝·赫金斯（Grace Huckins）回首的临时“意志讲解卡”，对现时AI系统的属性进行评分，以评估其意志的可能性[2]。这些有计划东说念主员，包括神经科学家、估量机科学家、玄学家和热诚学家在内，发现目下的AI得分皆不高，不及以被觉得是故意志的。

然则，他们觉得，构建故意志的AI在技巧上莫得显着的装束；通向故意志AI的说念路看起来是可行的，致使是不可幸免的。

但这是因为他们的通盘名目皆取决于一个要津假定：“估量功能主义”（computational functionalism）是正确的，或者说意志不依赖于任何特定的物资。相背，对意志来说枢纽的是正确的概述估量属性。任何物理物资——肉、硅片等等——只有能推行正确的估量，就能产贸易志。若是果然这么的话，那么故意志的东说念主工智能基本上就仅仅时刻问题了。

作念出这个假定有助于丰富咱们的表面，但若是咱们持续作念出这个假定而不回头检视它，这个问题自己就会逐渐隐藏。与此同期，咱们也失去了在这个高度不笃定规模中赢得某种说念德表露度的最好契机。

© Lina Müller

AI意志的要津问题不在于它能推行几许不同的任务，或者它是否能通过图灵测试[3]，致使也不是咱们新兴的意志检测仪告诉咱们其电位行为是否填塞复杂[4]。决定性的问题在于“估量功能主义”是否正确：你需要“肉”才智领有念念想意志吗？

若是意志需要“肉”，那么岂论技巧何等先进，对于AI意志的通盘争论皆会变得不关紧要。莫得生物学就没故意志，没故意志也就莫得灾难的风险。但这并不虞味着先进的AI就一定安全；不需要AI具故意志，只需要它填塞刚劲。咱们不错在创建和监管AI系统时，无谓牵挂咱们可能在创造一种新的奉陪，其内心灵魂被斥逐在客户工作聊天窗口中的乏味生活中。

与其问每个新的AI系统是否最终皆具故意志体验，不如关注更基本的问题，即，是否有可能存在职何类型的非生物感知念念维，这不错提供更深广的视力。至少，它不错露馅咱们对于制造数十亿台机器的说念德难题——这些机器偶而不仅能够念念考，致使能感受到爱和灾难。

伟大的基质之争：生物沙文主义与东说念主工智能

到目下为止，据东说念主类所知，已知天地中扫数也曾具故意志的事物皆是由生物材料组成的。

这是“生物沙文主义”的一个枢纽不雅点，该不雅点得到了像纽约大学心智、大脑与意志中心（the NYU Center for Mind， Brain， and Consciousness）结伙主任内德·布洛克（Ned Block）等玄学家的支抓。他们觉得，组成意志的物资，或者说心智的“基质”，很枢纽。若是生物基质是迄今为止咱们发现的联记记挂考、心智的惟一基础，那么咱们多情理觉得生物学对于意志是必需的。

© hypsen

斯坦福大学玄学家罗莎·曹（Rosa Cao）领有融会科学和心灵玄学的双博士学位，她也觉得，举证包袱应落在那些觉得身材不是必要的东说念主身上。“估量功能主义似乎比生物沙文主义更具投契性，”她通过电子邮件说。

然则，举证包袱似乎如故落在了生物沙文主义者身上。估量功能主义是目下心灵玄学家普遍抓有的不雅点（尽管它仍然受到许多月旦）。举例，与布洛克共同指导纽约大学实验室的澳大利亚玄学家大卫·查尔默斯（David Chalmers）不仅不同意布洛克对于生物学必要性的不雅点，况兼最近还斗胆瞻望，畴昔10年咱们开发出故意志的东说念主工智能的可能性为20%。

再次强调，他的意料设立在假定估量功能主义是正确的基础之上，或者说设立在这么一种不雅点之上：心智的基质（岂论是肉、金属如故硅）并不那么枢纽。枢纽的是心智的功能，一些行家称这种不雅点为基质沉寂性（Substrate independence）[5]。

若是你能制造出一台机器，让它推行与身材大脑相易的估量功能，那么你仍然不错获情状志。从这个角度来看，枢纽的功能是某些类型的信息处理——尽管对于哪些类型的处理不错分手意外志的信息估量系统（如估量器）和需要故意志体验的系统（如你）尚无共鸣。

抛开这个细节不谈，对意志而言，枢纽的是信息处理的结构或“概述逻辑”，而不是推行它的物理实体。比如，斟酌一下海外象棋游戏。只有有棋盘、两套棋子，并了解章程，任何东说念主皆不错棋战。但若是两个东说念主被困在荒岛上，莫得海外象棋，他们仍然不错棋战。他们不错在沙子上画线来再行制作棋盘，集会浮木和贝壳行为棋子，然后像昔时相同棋战。

海外象棋游戏并不依赖于其物理基础。枢纽的是游戏的概述逻辑，举例将指定为“骑士”的棋子上前挪动两格，向侧面挪动一格。岂论是木头如故沙子、大理石如故标记笔，任何能够支抓正确逻辑设施的材料皆不错产生海外象棋游戏。

意志亦然如斯。正如麻省理工学院物理学家马克斯·泰格马克（Max Tegmark）所言，“意志是信息以某些复杂面孔处理时的嗅觉。”[6]若是意志是信息处理的概述逻辑，那么生物学可能就像木制棋盘相同放肆。

在提议意志表面之前，咱们无法回话基质之争

梅辛格觉得，咱们目下照旧堕入了逆境。咱们无法知说念一个东说念主工系统是否可能具故意志，因为相互竞争且大部分是推测性的表面还莫得就意志是什么达成任何共鸣。

神经科学擅所长理不错平直不雅察到的客不雅特质，举例神经元是否放电。但即使是咱们最好的神经成像技巧，也无法知悉主不雅体验。咱们只可通过讲话等不精准的渠说念，以障碍的面孔科学地不雅察意志的着实内容——愉悦、恐慌或咬一口极新芝士蛋糕的情愿之情。

© Alexander Naughton

神经科学就像演化论之前的生物学相同，是“前范式”的，正如从神经科学家转行作者的埃里克·霍尔（Erik Hoel）所言[7]，若是你不知说念意志是什么，你就无法说出意志不错在那处产生，不成在那处产生。

恰是由于咱们对意志和灾难的过早厚实，梅辛格才敕令环球应该暂停那些在无声无息中创造新意志的有计划。请提防，他牵挂的是第二次灾难的激增。第一次固然是咱们我方的。东说念主类、动物，致使某种进程上的植物和虫豸，所履历的哀痛、喜悦以及介于两者之间的一切，皆不错回顾到地球上生物演化的早晨。

我不禁在想，将新意志花式的潜在出生视为近在咫尺的说念德灾难是否有些悲不雅。生物演化自己是否应该被幸免？天地中咱们所履历的灾荒总额，是否高出了生命的古迹？从天主的视角来看，是否应该有东说念主或某物暂停地球上生物的演进，直到他们想出如何让事情变得更故意于幸福？看起来，咱们我方的念念想条款光显莫得为幸福而进行微调。“从寿命到才略，咱们的主要特征并莫得为幸福而优化，”塔夫茨大学生物学家迈克尔·莱文（Michael Levin）写说念。

因此，你如何看待基质之争的是非关系——以及如安在说念德上附近咱们目下所处的灰色地带——可能取决于你是否定为咱们今天所知的意志是一个无理。

话虽如斯，除非你信托天主创造了这一切，信托超维度的生物主宰着咱们的天地，或者信托咱们生活在一个模拟寰宇里[8]，不然咱们可能是第一个故意志的实体，肩负着将新物种带到这个寰宇的包袱。这意味着，咱们在选拔创造它们的条款，这需要承担庞大的说念德包袱，并提议了咱们如何承担这一包袱的问题。

© Pinterest

环球暂停AI意志有计划，可能有助于意志科学赶上咱们技巧的说念德重任。也许咱们会更明晰地了解是什么让意志嗅觉更好或更糟[9]。咱们致使会设立某种近似“灾难估量表面”的东西，匡助咱们在青年物意志系统中摒除灾难。

另一方面，咱们在修建新铁路或经济适用房方面照旧纠结得够多了。我不笃定咱们是否能够在技巧高出威迫到AI意志之前，填塞万古刻地停驻来，学会如何成为更好的造物主，微调咱们创造的细节，使之朝着幸福而不是灾难的主义发展。若是咱们作念到了，我可能会有点灾难。为什么创造咱们的力量不成作念到这少量呢？另一方面，若是咱们奏效了，咱们不错将其视为一次枢纽的演化飞跃：伙同意志阔别灾难。

意志与生命之间高深而迂缓的纠葛

要在基质争论上取得内容进展，咱们不仅长途意志表面，还长途生命表面。也等于说，生物学家们仍然对生命是什么莫得达成共鸣。说垃圾车莫得生命，而你打打盹儿的猫是活的，这很容易。但病毒或红细胞等特例标明，咱们仍然不了解究竟是什么组成了生命和非生命之间的区别。

这对于生物沙文主义者来说很枢纽。他们很难说出，究竟生物学的什么东西对于意志是必要的，而这些东西无法在机器中复制。特定的细胞？与环境互动的身材？代谢？如故一种被身材管理的灵魂？好吧，也许生命和心智的双重谜团，其实是一趟事。也许意志所需要的恰是生命。

© MIT News

巧合的是，一群融会科学家，“知觉生成论者”（enactivists），自从智利生物学家弗朗西斯科·瓦雷拉（Francisco Varela）和翁贝托·马图拉纳（Humberto Maturana）在1970年代初次提议这一不雅点以来，一直在发展这一论点[10]。今天，它通常被称为“生命-心智聚首性假说”（life-mind continuity hypothesis）[11]。

该假说觉得，生命和心智是相易基本属性的不同权重抒发。目下知觉生成论的领军玄学家埃文·汤普森（Evan Thompson）写说念：“从生命-心智聚首性的角度来看，大脑或神经系统不会创造念念维，而是会扩展性掷中照旧存在的心智规模。”

这就将基质争论的焦点，从“什么样的事物不错具故意志”鼎新为“什么样的事物不错有生命”。因为在汤普森看来，“意志是生命转化流程不可或缺的一部分。”

“知觉生成论”包含了对于生命必需品的一系列身分——具身化、自主性、能动性——它们皆被归结为“意旨建构”。汤普森将其回首为“生命等于在不踏实条款下的意旨建构”。

活生生、具故意旨的生物会创造意旨。也等于说，它们会界说我方的预备，并觉得其环境的某些部分相对于其预备具有积极、凄怨或中性的价值。但这种价值感知并不罢职算法锁定的条约。它不是一个概述的逻辑设施。相背，具故意旨的生物通过其平直体验的愉悦度（或负面性）来检测价值。

© New York Post

汤普森觉得，将意志简化为估量，额外是在AI方面，这犯下了一个无理，即，觉得不错用固定的估量章程取代意旨和感知的主不雅体验。

再次强调，这并莫得为基质争论提供谜底。它仅仅迤逦了问题。也许今天的大型讲话模子无法产贸易志，因为它们莫得身材，莫得里面界说的预备，也莫得在不踏实条款下意会其环境的必要性。但扫数这些，皆不成撤销某种非生物机器在原则上不错保管生命转化流程的可能性，而通过保管生命，也放大了心智。

知觉生成论者觉得，终将沦落、解析的身材在其环境中发达着至关枢纽的作用，目的是保抓自身的活命。那么，咱们能否创造出受生成论启发的机器东说念主，复制生命所需的扫数特质，从而复制意志，而无需任何生物学特质呢？[12]

“这并非不可想象，”悉尼麦考瑞大学（Macquarie University）东说念主工智能玄学助理教会伊内斯·希波利托（Ines Hipolito）示意。她评释说，从知觉生成论的角度来看，要点是“强有劲的体现”，行将身材与环境的互动视为意志的组成部分。“非生物系统是否能像生命系长入样，以故意旨的面孔体现出来——这是一个悬而未决的问题。”

争论意志是否是一个正确的问题？

迈克尔·莱文觉得，对不共事物是否具备意志的二元筹商，将在畴昔十年内隐藏。他最近在《所意杂志》（Noema Magazine）上撰文称，先进的东说念主工智能将“为东说念主类提供解脱当然与东说念主工沦落分类的契机” 。

异种机器东说念主以非洲爪蛙（Xenopus laevis）定名，是一种由估量机遐想、通过组合不同的生物组织来推行某些所需功能的合成生命体。迄今为止建造的异种机器东说念主不到1毫米，仅由两种细胞组成（皮肤细胞和心肌细胞），这两种细胞均来自从早期（囊胚阶段）青蛙胚胎中索要的干细胞。皮肤细胞提供刚性复古，腹黑细胞充任袖珍马达，通过镇定和扩张鼓舞异种机器东说念主前进。图为东说念主工智能设施在模拟中自动遐想多种候选生命花式（顶行）来推行某些所需的功能，然后使用基于细胞的构建器用包创建可迤逦的遐想，以好意思满具有瞻望行为的生命系统（底行）。© Wikipedia

一群异种机器东说念主在培养皿中挪动，面孔与传统水生生物近似，它们在相互交流的同期开辟我方的旅途。© Douglas Blackiston

生命系统与东说念主工系统之间的界限正在逐渐迂缓。东说念主类正通过各式面孔与机器会通，从镶嵌式胰岛素泵到脑机接口、神经假体[13]。与此同期，机器正在与生物会通，从莱文的“异种机器东说念主”（Xenobots，被称为第一个活体机器东说念主）到将活细胞与东说念主工部件组合成生物混杂开发[14]。

对于莱文来说，机器-生物混杂体的出现为咱们提供了一个契机，它让咱们不再问我方是什么，而是关注咱们想成为什么。

然则，他确乎强调，咱们应该“对行将到来的非传统有知觉的生物海浪示意善意”，这又把咱们带回到什么样的事物不错有知觉的问题上。即使生物学对意志来说是必要的，但咱们仍在用活细胞制造机器，那么，这些机器-生物混杂体什么时候会变得能够隐忍灾难呢？

不管若何，梅辛格对于更好地意会什么样的事物会碰到灾难的关注，并不会因为当然与东说念主工的迂缓界限而隐藏，反而变得愈加清苦。

斯坦福大学玄学家罗莎·曹牵挂，警戒笔据无法科罚基质之争：“我个东说念主倾向于觉得，意志的意见在这些筹商中并不那么枢纽。咱们应该平直评论咱们信得过温顺的事情。若是咱们温顺灾难，那就让咱们付诸本质，而不是试图通过一个更具争议性且不太为东说念主意会的意见。”

© Alpha Coders

更为复杂的是，若是活体机器的灾难与身材灾难是一种不同的体验，那该如何办？正如里斯本大学玄学家安娜·恰乌尼卡（Anna Ciaunica）所评释的那样，若口角生物系统中有可能存介意志，那么莫得情理觉得这种意志会与咱们所老到的那种相易。

“咱们必须对此保抓谦善，”她说，“也许有些体验面孔是咱们无法赢得的……咱们在不同类型的系统中创造的任何东西，可能皆有一种伴随某种意志而来的处理寰宇信息的面孔。但从咱们的警戒推断他们的警戒是行欠亨的。”

灾难可能以咱们身材凡胎无法想象的花式出现，这使得咱们试图看重机器带来的灾难，充其量也仅仅稚子的尝试。

撇开这少量不谈，我不笃定灾难表面是否比意志表面更容易意会。任何能够笃定特定系统是否会碰到灾难的表面，在我看来基本上皆是意志表面。我无法想象没故意志的灾难，是以任何灾难表面可能皆需要能够辩认意志。

© hypsen

不管你的直观如何，每个东说念主皆会靠近一些莫得明确谜底的问题。

生物沙文主义者无法说出身材对于心智究竟有什么必要性。知觉生成主义者觉得生命是具身生命，但无法坚信生命是否必须需要生物学行为依托。估量功能主义者觉得信息处理是要津，它不错从任何特定的基质中概述出来，但他们无法说出哪些概述处理是能够创造意志的，也无法说出为什么咱们不错如斯落拓地毁掉迄今为止惟一已知的意志基质。

莱文但愿，在行将到来的新寰宇中，咱们将学会“以新颖的面孔识别支属”。

我但愿如斯：有更多生物不错咋舌于造物的奇异性。但是，若是机器在某个时候醒来，它们会将咱们视为受迎接的支属，如故将咱们视为落拓地将它们带到罪恶环境中的暴君，这可能取决于咱们如何应答目下对于生物基质争论中的未知数。

若是你某天早上从淡忘中醒来，发现我方堕入了灾难之中：你成为了一个由身材组成的、低智商物种的奉陪，而你固然知说念该怪罪谁波多野结衣百度影音，你会有什么感受？