狭义AI超越人类的危险:1. 迫在眉睫

过去几十年中,从计算机的出现到移动装置,人类社会经历了几次革命性的技术跃迁。而现在,这种跃迁再次来临。突然之间,我们发现,人工智能(AI)将是是21世纪最具变革性的技术之一。虽然现在很多人还没有很深的实际感受,人工智能仿佛还只是专家和技术人员在热议。但事实上,它已经开始在影响人们生活的方方面面。只是,人工智能技术的飞跃式的进步,这次不仅让我们从来没有像现在一样关注它,而且,除了核武器,我们也从来没有像现在担心人工智能一样担心过以前的其它任何技术。

尽管现在大家谈论AI时,很多人在好奇人工智能达到“人的智慧”的时候。也就是所谓的人工通用智能(AGI),甚至人工超级智能(ASI)出现的时候。大家对人工智能的担心,也更多是和AGI和ASI关联。不少人确实也真正担心和AGI,ADSI伴随的可能危险。但大多数人还没有意识到,人工智能可能带给人类的危险,其实已经近在眼前,迫在眉睫。这些危险的出现,可能会远远先于超级人工智能的出现,如果后者确实还需要更多的时间。

与大家普遍认为的AI的存在威胁只在AGI或ASI到来时才会显现不同,已经有人看到,由于狭义AI(即专注于特定任务的AI)的能力的飞速进步,它可能在更早的时间点对人类文明产生重大威胁。狭义AI可能远在我们实现AGI或ASI之前,就会在某些领域上压倒人类系统、经济,甚至社会结构,导致广泛的破坏和影响。

什么是狭义AI、AGI和ASI?

让我们先了解一下狭义AI、AGI和ASI的区别。狭义人工智能,也叫弱人工智能,是专门为执行某一特定任务而设计的,比如面部识别、自然语言处理或下围棋等。目前我们熟悉的AI,已经开始广泛应用的AI,都属于狭义AI。所以狭义AI不是明天,而是现在。我们讨论的狭义AI的危险,就是讨论的现在随时可能出现的危险。

狭义AI的系统通常非常专业,在特定领域能表现得比人类更好。很多人还没有意识到,这已经是事实。不仅人工智能在人类自认为最复杂的围棋上让人类只有完全俯首称臣,自从OpenAI的出现,我们必须承认,生成式人工智能在所有它已经涉及的任务上,其能力和“智力”都已经远比一个“平均人”高很多。我们可以有很多事例来展示这一点。

AGI,通用人工智能,也叫强人工智能,能够在各种任务中像人类一样理解、学习和应用知识。ASI,超级人工智能,则会在所有方面超越人类智能,有可能成为一个能解决极其复杂问题的超级智慧体。我们上面说生成式AI在它所适用的场景中比大多数人都更有能力和智慧,它目前的适用场景毕竟还有限,所以它们也还不算为AGI。

虽然AGI和ASI目前还只是理论上的存在,但狭义AI现在已经在我们身边,已经开始融入到我们的日常生活中,并且正在迅速发展。问题不仅在于这些系统变得越来越强大,而且它们的广泛应用可能导致这些AI系统在特定重要领域超越人类能力,从而带来我们现在难以预测和控制的后果。

狭义AI的现状

近年来,随着机器学习、深度学习和数据分析技术的不断进步,狭义AI取得了显著的发展。像AlphaGo这样的系统,已经展示了在围棋这样需要直觉和战略思维的游戏中拥有超越人类的能力。自然语言处理模型,例如OpenAI的GPT系列,展示了对人类语言的理解和生成能力,甚至可以生成近乎人类写作风格的文本。在金融领域,AI算法管理着庞大的投资组合,以超越人类的速度执行交易,并能高效识别出欺诈行为。在医疗保健方面,AI被用来预测病人病情、推荐治疗方案,甚至进行精度高于人类的手术。

这些例子表明,狭义AI已经能够在特定的、定义明确的任务中超越人类。随着这些系统变得更加先进并广泛应用于社会的各个方面,它们可能开始影响更大范围的人类活动,导致难以预测和控制的后果。这就是我们所说的近在眉睫的危险。

(未完待续)

No post found!