【通信产业网讯】近日，OpenAI公司围绕CEO萨姆·奥尔特曼的去留问题上演了一场跌宕起伏的“宫斗剧”，引发人工智能产业界广泛关注。OpenAI作为AI领域的创新和实践先锋，其领导层的变动引发了一系列关于人工智能科技、伦理和未来发展等关键问题的思考：在快速发展的AI时代，如何平衡产业发展推动与潜在风险防范之间的关系？
2023年7月13日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》，明确了促进生成式人工智能技术发展的具体措施，规定生成式人工智能服务的基本规范，对生成式人工智能服务实行包容审慎和分类分级监管。
2023年10月30日，美国总统拜登签署通过《关于安全、可靠、值得信赖地开发和使用人工智能的行政命令》，通过制定安全标准和测试标准以防范AI的潜在风险，推动人工智能技术的安全、可靠和可信发展。
一、发展人工智能是加快建设创新型国家和世界科技强国的重大战略
人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。
人工智能产业的发展对于国家创新能力和竞争力的提升具有重大战略意义。随着全球科技革命和产业变革的加速推进，人工智能技术已成为国家间竞争的关键领域。人工智能作为战略性新兴产业，是推动科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源。同时，在军事、安全、社会治理等领域，人工智能技术也将发挥重要作用，为国家安全和社会稳定提供有力保障。
新一轮人工智能发展逐渐由技术进步推动转向由应用场景的拓展驱动。近年来，我国人工智能产业在技术创新、产业生态、融合应用等方面取得积极进展，已进入全球第一梯队。得益于算法突破、算力提升、数据积累，人工智能加速进入第三波发展浪潮，以ChatGPT为代表的人工智能大模型已具备理解和生成自然语言的能力，已广泛应用于金融、教育、医疗等领域。产业发展主要动力将由技术推动为主逐渐转换到由应用场景的不断拓展驱动。
中国人工智能产业正在“走深向实”，未来将重塑千行百业，赋能多个万亿级市场。新一代人工智能技术正加速与各行各业的深度融合，已经成为各行各业提高效率、优化资源配置、提升用户体验的重要手段。从工业设计到智能制造，再到医疗健康和文化创意等领域，AI技术正在重塑千行百业，推动产业结构转型升级，并有潜力激活多个万亿级市场。
二、警惕人工智能技术快速发展带来的潜在风险与安全挑战
尽管人工智能产业正以前所未有的态势蓬勃发展，但也必须清醒地认识到伴随而来的潜在风险与安全挑战。
一是AI技术在对海量数据的分析和处理过程中，直接涉及个人隐私和数据安全。大数据时代，个人信息的收集、存储和分析变得更加普遍，同时也带来了数据泄露和滥用的风险。例如，个人健康、消费习惯、位置信息等敏感数据如果未得到妥善保护，可能被不法分子利用，对个人隐私构成严重威胁。AI系统本身的安全性也不容忽视，系统漏洞可能被利用来发动网络攻击，误操作或程序缺陷可能导致不可预测的后果。
二是大量人工智能产品存在能力参差不齐、缺乏行业基准、用户选型困难等问题。当前市场人工智能产品数量急剧增长，从基础算法到复杂的行业大模型，各种AI解决方案层出不穷，逐渐被广泛应用于各个行业的核心运营中，目前国内已经发布的人工智能行业大模型数量超过180个。由于缺乏统一的行业基准和评估标准，使得用户难以对比和评估不同的AI产品。另外，产品的适用性判断对用户的技术素养要求较高，严重制约了人工智能技术的产业化落地和市场推广。
三是随着人工智能系统的快速迭代升级，存在AI取代或超越人类的风险。2023年3月，埃隆·马斯克与包括AI教父、图灵奖得主约书亚·本吉奥在内的超过一千名人工智能专家和技术高管签署了一封公开信，呼吁暂停发展先进人工智能系统六个月，反映出行业专家对人工智能技术可能带来的重大风险的担忧。如果AI系统超出人类的控制范围，可能产生不可预知的安全风险。这些风险可能源于AI的误解、程序缺陷或被恶意利用等，尤其在关键基础设施、武器系统等领域的风险更为严重。
三、关于中国人工智能产业健康发展的建议
一是建立和完善人工智能安全政策法规，强化数据安全与隐私保护。在人工智能应用过程中，数据不仅关乎个人隐私，还可能影响到公共利益和国家安全。因此，需要从国家层面制定全面的安全政策法规，应涵盖道德伦理、人身安全、个人隐私保护等领域。同时引入AI技术滥用惩戒制度，加强法律约束。
二是全面推动人工智能产品的标准化测试与认证体系搭建。人工智能的通用化、工程化发展对产品性能、安全性评价等提出新的要求。通过完善人工智能产品验证与测试体系，制定统一测评标准，以及明确安全可信要求，对于确保产品质量，推动行业标准化，促进人工智能产业的健康和可持续发展具有重要意义。
三是搭建AI伦理和监管框架，特别是对高风险领域实施严格监管。为确保AI技术的安全发展，可以考虑搭建AI伦理和监管框架，包括清晰的技术发展指导原则、风险评估机制和应对措施。对于高风险领域实施更严格的监管和技术审查，确保AI技术的应用不会对人类安全构成威胁。同时，鼓励国际合作与对话，共同面对AI技术带来的全球性挑战，形成统一的国际规范和标准。