ChatGPT:风起云涌的生成式AI和紧随而至的监管 从中国网信办新规看新赛道走向

中国网信办发布了《生成式人工智能服务管理办法(征求意见稿)》,其中“利用生成式人工智能生成的内容应当体现社会主义核心价值观”,以及必须向网信办申报安全评估并且须进行算法备案等内容,引起关注。

正如特斯拉兴起,推高了中国电动车行业的热情;ChatGPT犹如一把大火,点燃了整个人工智能行业,仅仅几个月,百度推出文心一言,阿里巴巴推出通义千问,百川智能、商汤科技、昆仑万维也宣布要进入这个领域。

为何这么快就进行监管?

伦理担忧几乎伴随着人工智能的每一步发展。联合国教科文组织发布的《人工智能伦理问题建议书》称,此类技术极具侵入性,它们侵犯人权和基本自由,且被广泛使用。

这份建议书还表示,该技术也带来了前所未有的新挑战:性别和种族偏见增加,对隐私、尊严和行动力的重大威胁,大规模监控的风险,以及在执法中越来越多地使用不成熟的人工智能技术,如此种种。“直到现在,我们还没有通行的标准来应对这些问题。”

伦理担忧对ChatGPT也同样存在——它已展现出“石破天惊”的智能化一面,对很多领域产生破坏性,比较直接的例子是有大学生用其生成论文并获得高分。

不仅如此,生成式人工智能进化速度极快,ChatGPT去年11月推出后,今年3月迭代出的GPT-4,不仅知识面更广、对答更流畅,开始能够读懂图片内容,在律师资格考试中拿下高分,而且具备自我反思的能力。

甚至ChatGPT的开发者也表示,全社会只有有限的时间来决定如何对其监管。

《生成式人工智能服务管理办法(征求意见稿)》颇受关注的一条是,“利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情信息,虚假信息,以及可能扰乱经济秩序和社会秩序的内容。”

上述业内人士认为,至于外界讨论很多的,是出于防止政治风险的原因,“我认为是过度解读了。中国的AI企业没有冲动借助这一工具实现什么政治目的,反而在开发之初就会极力避免,担忧的方向应该反过来,有了生成式AI这一工具,在防颠覆、防分裂和大规模监控的应用,或可起到超出意料的效果。”

监管是否会制约中国AI产业发展?

有此一问,是因为过去几年中国一些行业经历疾风骤雨般的监管打压——教育培训行业被“一刀切”;互联网巨头们被约谈,遭遇罚款和拆分;房地产企业们脚踩“三道红线”后,债务违约,濒临破产,留下一地“烂尾楼”。

以至于今年马云回国的消息占据诸多媒体头条,侧面也反映出,企业对于监管的战战兢兢。

心得:短期来看不会阻碍,甚至还可能促进AI的发展。上述业内人士解释,背后的逻辑是,中国企业长期对监管都紧绷着神经,尤其是人工智能,先天很敏感,企业心里知道早晚都要强监管,现在早点划定边界,反而可以更好发展。值得一提的是,这份监管文件中也明确了对生成式AI产业的支持和鼓励态度,比如,国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。

https://www.bbc.com/zhongwen/simp/chinese-news-65274804

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *