近日，联合国教科文组织颁布了《生成式人工智能教育和研究指南》，这是全球首份生成式AI相关的指南性文件，旨在促使生成式AI能够更好地融入到教育。主要包含以下重点：

01  围绕生成式人工智能产生的争论及其对教育的影响

在讨论生成式AI的规范性指南之前，相关组织对目前Generative AI（生成式AI，后文简称 Gen AI）引起的争议和风险作出了一系列总结，这些风险，常常被使用者忽略。

其中对于教育行业来说，最显著的影响是：AI生成的大量存在偏差的信息，使学习者获取的信息源混乱。如果没有监管，未来的学生学习到的知识很有可能是不准确的、经AI加工提取后的片面信息。

《联合国指南》中提到的风险主要包含以下几个方面：

数字贫困加剧

《指南》指出，生成式AI除了在人工智能架构和训练方法方面的迭代创新之外，还依赖与大量的数据和强大的计算能力，这些创新大多只适用于最大的国际技术公司和少数经济体（主要是美国、中国、欧洲国家）。随着获取数据对于国家的经济发展和个人的数字机会变得越来越重要，那些无法获取或负担不起足够数据的国家和人民陷入了“数据贫困”的境地。

换言之，AI能促进公平，也能加剧不公平，关键在于使用者如何选择。

研究者、教师和学习者应该批判地看待一般培训模式中的价值取向、文化标准和社会习俗。政策制定者应意识到并采取行动，解决因训练和控制通用模型的差距扩大而导致的不平等恶化问题。

超越国家监管适应

与此同时，许多开始使用Gen AI的公司发现，维护其系统的安全性越来越具有挑战性。此外，尽管人工智能行业本身呼吁监管，

但关于创造和使用所有人工智能的立法起草工作往往落后于快速发展的步伐。

虽然Gen AI可以增强人类完成某些任务的能力，但对推广Gen AI的公司的控制有限。这就提出了监管问题，特别是在获取和使用国内数据方面，包括关于地方机构和个人的数据以及在国家领土上产生的数据，需要制定适当的立法。

未经同意使用内容

正如前面所提到的，一般模型所需大量的数据经常从互联网上搜集，而且通常没有任何所有者的许可。许多图像通用系统和一些代码通用系统因此被指控侵犯知识产权。

研究人员、教师和学习者还应意识到，使用Gen AI创建的图像或代码可能会侵犯他人的知识产权，并且他们在互联网上创建和共享的图像、声音或代码可能会被其他Gen AI利用。

AI生成的内容造成信源不准确

由于GPT训练数据通常是从互联网上提取的，而互联网上经常包含歧视性和其他不可接受的语言，由于缺乏严格的法规和有效的监督机制，生成式AI产生的带有偏见的材料正日益在互联网上传播，使学习者获得错误知识。

这一点对教育行业尤其重要，因为生成式AI生成的材料可能看起来相当准确和令人信服，但它往往包含错误和有偏见的观点。这对年轻的学习者来说是一个很高的风险，因为他们对所讨论的主题没有扎实的先验知识。

扫描以下二维码阅读全文。

本文章来源中国教育新闻网，如涉嫌侵权，请联系网站管理人员删除。