威大公众号

点击蓝字关注威尼斯大学微信公众号，我们将会在每周一、三、五定时更新，为你持续带来校园最新资讯。

 图｜© 意大利威尼斯大学

Chat GPT，全称是生成式预训练转化器（chat Generative Pre-trained Transformer），它已经成为一个真正的媒体案例。

它是由OpenAI公司开发的最著名的人工智能模型之一，引发了科学界和非科学界人士的讨论。从文本翻译到客户服务、市场调查，它的潜在应用范围非常广泛。然而，有很多人都在担心这一工具可能对社会和劳动力市场产生影响。

在意大利，隐私保护机构曾经一度禁止了该服务。不久前全球大约有1000名专家发出了警告，指出人工智能的危险，并要求停止开发。其中有一名专家是伊隆·马斯克（ Elon Musk），OpenAI的联合创始人，他似乎已经在努力建立一个有竞争力的系统。

但人工智能（AI）到底是什么？有什么好处和风险？威尼斯大学环境科学、计算机科学和统计学系的教授马尔切洛·佩利洛（Marcello Pelillo）从事AI研究已有30年，我们和他聊了聊这个问题。

教授，什么是人工智能？

在科学界，关于这个问题仍然存在激烈的争论，单是智能一词的定义就不简单。一般来说，人工智能指的是信息工程技术的一个领域，旨在开发出具有“智能”行为的算法或机器，希望它表现得像人类一样。例如，同人类一样感知世界的能力，或者在复杂条件下应用策略的能力，这些都是我们试图转移的典型人类能力。

Chat GPT是如何工作的？它从哪里获得并反馈信息？

它是OpenAI旗下的软件，向所有人开放，可根据用户输入的信息来生成类似于人类的回答。从科技的角度来看，Chat GPT并没有特别的创新，但它是一个精心制作的系统，拥有庞大的商业运作背景，与它的互动使人印象深刻。它是最新的人工智能模型，使用神经网络模拟人脑结构，以模仿人类行为。

神经网络有着悠久的历史，早在20世纪50年代人工智能正式诞生之前，人们就已经开始谈论神经网络了。然而近十年来，随着“深度神经网络”（在大量数据中学习的模拟大脑）的发展，这一现象有了爆炸性增长。Chat GPT可以访问无限量的数据并使用大型语言模型（LLM），与之前的模型相比，它可以关注文本的特定部分，就像人类在关注所看到的细节一样。

Chat GPT的局限性是什么？

迄今为止，所有人工智能系统的一个明显问题是缺乏常识。这有一个与Chat GPT对话的例子：“你能生成一个1到10之间的随机数字，让我来猜吗？”“当然可以，7，你试着猜猜吧。”“是7吗？”“你真棒！”。

我们同事之间分享了这几句话，你可以从中了解到此类系统的内在局限性：它们缺乏对所讨论主题的深刻理解和常识。如果智能的定义还包含进行逻辑推理的能力、理解一句话的深层含义并将其“锚定”到现实中的能力，那么Chat GPT就还不够智能。但是，Chat GPT善于以连贯且令人信服的方式组合文本“片段”，它可以访问数十亿文本，也接受过完成文本的训练，因此可以组成基本上连贯的叙述。

您认为这个系统有什么优势（或劣势）？

我个人认为，这个系统的缺点更多。人工智能有更多有趣的应用，例如在医疗领域，用人工智能发展了先进的医学分析系统，它能够看到人眼看不到的细节，这对于准确的诊断和治疗方法至关重要。这些机器还能够分析大量数据，可以为医学带来真正的进步，然而与Chat GPT相比，它们受到的关注较少。

再说说刑事司法领域，美国已使用人工智能系统，欧洲也开始使用了。一些判决是基于人工智能的软件支持而做出的，它能够预测被告的再犯率。在这些情况下，我们将巨大的责任交给了一个算法，但我们要记住，这个算法属于不保证透明度的私营企业。我们面对的是一个技术工具，它本身是中性的，但我们的使用方式决定了它的好坏。Chat GPT也是如此，它可以是一个有价值的助手，但也可能暗藏陷阱。

最近在意大利出现了隐私保护监管机构的封锁，呼吁大家“停止使用并反思”，这是人工智能第一次受到“攻击”，有的大学对一些撰写的论文产生了疑虑，这种担忧是合理的吗？

人工智能普遍存在风险问题，就我个人而言，Open AI的创造者之一伊隆·马斯克（Elon Musk）提出的“停止六个月的研究”的呼吁毫无意义。事实上，他似乎已经创立了一家新的AI公司（要知道Open AI基本上是属于微软的）。全球研究如何停止？没有任何权威拥有这种权力，六个月也微不足道，一个彻底的、跨学科的研究不可能在几个月内进行。

我觉得有两个主要风险。其一是这些工具诞生和应用的速度，这种速度使我们没有机会去深入思考其后果。其二与风险与人工智能研究的知识产权有关。几年前，人工智能是大学的财产，研究是与公司合作完成的，但本质上还是学术研究。在过去的十年里，情况从根本上发生了变化，并且也许是不可逆转的。如今，尽管它具有重要的伦理和社会意义、会对社会和国家政策产生影响，这项研究还是完全由谷歌、脸书、亚马逊、微软等大公司进行。

应该采取哪些措施来规范这种发展？

我们绝不能失去对自己创造的东西的控制，就像著名的《魔法师的学徒》故事中出现的场景一样。尽管这些系统是由人类创造的，但它们是数十亿数字控制下的巨大机器，这使它变得难以企及。AI的透明度和隐私问题是首要注意事项，美国和欧洲已对此展开讨论。现存指导方针规定了该如何正确操作，也有了关于“可解释的AI”的专门研究。

再谈谈解决方案：马斯克那个停下来反思的想法是不可行的。谁做这个决定？谁应该停下来？即使我们这样做了，谁能保证那些想要获得竞争优势的极权主义公司或国家不会继续研究？早在多年前的一次采访中，普京就曾表示，掌控人工智能就意味着掌控世界。

我认为，我们应该理性地寻求解决方案，使这门学科更加透明和民主化。首先，人工智能系统应该是开放的，可供所有人访问。可Chat GPT是一款专有软件，只有Open AI内部的人才知道它的确切运行方式。

我们都记得特朗普被“逮捕”的假照片，以及它们被公布后引发的风波。如果没有相关意识，我们就有可能创造出一个充满不信任的社会。每当在网上看到什么东西，我们都得问问自己：这是原本的情况吗？每次收到电子邮件，我们都会怀疑它是不是机器人发的。

                                      薛如玉 | 文章翻译

   Gioia | 文章审校

                                  Gioia | 图文编辑

扫码关注威大公众号

微信号：university_cafoscari

News微博：@意大利威尼斯大学

哔哩哔哩 ：意大利威尼斯大学

点击 阅读原文进入威大官网相关页面