对话邬江兴院士：全社会对于AI的狂热，让我感到非常不安-科技让生活更美好

出品|搜狐科技

作者|张雅婷

近日，由搜狐主办的2024搜狐科技年度论坛在北京盛大开幕。中国工程院院士、国家数字交换系统工程技术研究中心主任、复旦大学大数据研究院院长吴江兴就如何让AI既安全又美好发表演讲。

在他看来，人工智能是一把双刃剑。在拥抱人工智能的同时，也会给信息安全带来挑战，可能破坏和平，甚至毁灭人类。因此，需要正确的技术路径来实现更安全的AI应用系统，使人工智能健康发展。

会后，吴江兴在与搜狐科技的对话中还谈到了中美AI分歧、自研AI芯片、网络安全治理等热点问题。

在吴江兴看来，美国在计算机体系结构的发展和新型计算能力的研究方面走在世界前列。从物理层面的计算能力来看，中国比美国落后两代。

“现在中国有一些自研的AI芯片，大家都说可以对标英伟达A100。在某些领域，这些芯片确实可以达到接近A100的水平，但在更多领域，差距仍然很大。让我们坦率地说，不要自作多情。在一般范围内，大约是A100的50%到60%。”win7补丁怎么安装

此外，在数据方面，吴江兴表示，中国数据在世界数据库中只占不到1%，但美国没有那么多中国材料，因此中国大概可以在中国大模型领域占得先机。lg巧克力手机哪一年

在网络安全领域，吴江兴两年前接受采访时提到，中国是世界上遭受网络攻击最严重的国家。随着技术的进步，网络安全问题是否得到了更好的解决？

吴江兴告诉搜狐科技，网络安全问题并没有改善，应该说是比较严重了。值得一提的是，网络安全问题很容易被大家忽视，因为对于个人来说是小概率事件，信息泄露非常隐蔽，受害者无法感知。

全社会都在进行数字化转型，中国是数字化转型最快的国家之一。“现在微信和支付宝都在刷脸，全世界都觉得中国已经走得如此先进，但我们将不可避免地为此付出巨大代价。”

以下是对话实录:

搜狐科技:你之前在采访中提到生成式人工智能的问题比传统人工智能的问题大得多，应该谨慎使用。这里的逻辑是什么？安全问题的主要方面是什么？

吴江兴:首先，传统的人工智能已经推出了70多年。它过去是象征性的。根据那个规律，20年前神经网络出现后，给出了一个很常见的数学公式，叫卷积公式。“连滚”之后，就可以胡说八道了。没有人能解释清楚它的数学和物理意义是什么。现在，人类整体上正在“摸着石头过河”。

搜狐科技:您认为中国和美国在生成式人工智能领域的优势和劣势是什么？

吴江兴:美国应该是AI领域的原创者。首先，它具有强大的计算能力，在计算机体系结构的发展和新计算能力的研究方面处于世界前列。在身体水平上，中国比美国落后两代。

第二是数据。中国数据在世界数据库中仅占不到1%。我试过让学生用AI写英文论文，很难判断这个东西是AI写的。但我们中国可能会在中国大模型领域取得领先。这些美国人没有那么多中国信息。

搜狐科技:聚焦算力领域，研发国产芯片是否迫在眉睫？

吴江兴:目前国内有华为910B等AI芯片，大家都说可以竞标英伟达A100。在某些领域，这些芯片确实可以达到接近A100的水平，但在更多领域，差距仍然很大。坦率地说，不要自作多情。在一般范围内，约为A100的50%至60%。

搜狐科技:这样够吗？

吴江兴:NVIDIA B200已经发布，是A100的50倍。你觉得我们的差距在哪里？因此，我们无法在计算能力和比较数据的轨道上与美国竞争。

搜狐科技:马斯克认为，到2026年，人工智能可能会超过人类智能，“比最聪明的人还要聪明”。你认为这个结论可靠吗？

吴江兴:很靠谱，因为最聪明的人读不了那么多书，但最聪明的人是个体。从人类群体来说，AI是无法比拟的，因为AI不具备发明创造的能力。

搜狐科技:您对开发AI有什么建议吗？

吴江兴:我们应该对艾抱有热情，热情地拥抱他，但我们也应该冷静地思考。现在整个社会都在为AI疯狂，这让我感到非常不安。

搜狐科技:随着数字经济的深入发展，手机、手表、汽车等设备已经越来越智能化。这是否会给网络安全带来新的挑战？

吴江兴:手机、手表等智能设备搭载AI后，将成为AI应用系统。一个AI应用系统不可避免地会存在个性化安全问题和共性安全问题，因此我们需要思考如何通过安全建设让AI应用系统更不容易学坏。

搜狐科技:作为网络安全专家，您能谈谈中国整体网络安全能力的国际水平吗？如何实现“变道超车”？

吴江兴:病毒的概念是1972年在技术领域严肃提出来的。网络安全治理问题这么多年没有解决，威胁却越来越大。包括现在特斯拉推出的FSD全自动驾驶，我真的不敢开。

网络安全问题本质上是由子宫内的安全缺陷引起的，但当我们应用它时，我们并不关注如何使用有缺陷的系统来制造具有安全承诺的设备，而只是单独使用它。

搜狐科技:两年前，你提到中国是世界上遭受网络攻击最严重的国家。现在情况变好了吗？对于普通人来说，网络空之间有哪些“漏洞”需要注意？

吴江兴:没有好转，但应该说是比较厉害了。事实上，网络安全问题很容易被大家忽视。因为如果具体到个人，实际上是小概率事件，一般人没有太大的攻击价值，也没有什么值得记住的。而且，很多时候问题不会让你知道，只是把你的信息拿走了，受害者不会察觉。

但是，从国家层面来看，敏感部门不断报告问题，而且问题越来越严重，因为整个社会正在进行数字化转型。中国是数字化转型最快的国家之一，从某种意义上说比美国更快。

美国人认为，数字化转型存在许多负面影响，尤其是社会和系统性安全风险。因此，他们没有大力推广电子支付，现在我们在微信和支付宝上不断刷脸。全世界都认为中国已经走得如此先进，但我们将不可避免地为此付出巨大的代价。

搜狐科技:您是科学家，也是教育家。你认为高校师生应该使用ChatGPT等AI工具吗？你看到史龚毅认为人工智能培养不出优秀的大学生了吗？

吴江兴:我认为这句话不完全正确。AI应该更多地作为一种工具来帮助学生更快地完成实验并提高研究效率。bootstrap应用

学生应该能够在掌握人工智能的基础上进行更具创造性和智能的研究，而不是拒绝人工智能，并且不应该使用人工智能来复制书本，伪造和混合文凭。

所以我们要把AI当成一个赋能的东西，但不能依赖它，AI生成的内容在逻辑下也可能是废话，所以我们也要有判断能力。

对话邬江兴院士：全社会对于AI的狂热，让我感到非常不安