当前位置:周记财经 > 资讯 > 正文内容

内容监管:AI生态良好发展的先决条件

更新时间:2026-08-15 17:04:09 资讯3年前 (2023-04-07)56
AIGC-X 是由人民日报社主管、依托人民网建设的传播内容认知全国重点实验室,中国科学技术大学,合肥综合性国家科学中心人工智能研究院联合推出的国内首个AI生成内容检测工具。    人工智能在内容生成领域的应用面临风险监管需求,安全可信是AIGC良好生态发展的先决条件。结合内容识别、内容溯源等技术,AIGC-X 能够有效的推动AI 风险管理、安全审查和评估技术的发展,为建立安全可信AIGC 生态的基础提供技术方案与支撑。
  【事项】  3 月1 日, AIGC-X 正式开始全网公测。AIGC-X 是由人民日报社主管、依托人民网建设的传播内容认知全国重点实验室,中国科学技术大学,合肥综合性国家科学中心人工智能研究院联合推出的国内首个AI生成内容检测工具。  【评论】  人工智能在内容生成领域的应用面临风险监管需求,安全可信是AIGC良好生态发展的先决条件。AI 文本生成模型是在海量文本语料基础上,经过自回归式语言建模的大规模训练得到,模型通过计算下一个单词的概率分布逐步完成整个文本内容的生成。AIGC-X 尝试采用算法融合与知识驱动的人工智能框架,使用深度建模来捕捉困惑度、突现频次等隐式特征,学习得到机器生成文本与人工生成文本的分布差异。结合内容识别、内容溯源等技术,AIGC-X 能够有效的推动AI 风险管理、安全审查和评估技术的发展,为建立安全可信AIGC 生态的基础提供技术方案与支撑。  多模态或将成为下一发展方向,内容生产日趋复杂将提升内容领域的监管需求。OpenAI CEO Sam Altman 曾在2022 年9 月的一次采访中表示,将在不远的将来推出多模态模型。OpenAI 联合创始人、首席科学家Ilya Sutskever 也曾多次在采访和社交媒体上表达对多模态的关注。多模态模型接受文字、音频、图像和视频输入,将支持使用者通过AI 输出可视听内容,内容生产的新范式需要提升监管治理的技术能力,机器的半监督或无监督学习算法叠加更为丰富的内容表现形式势必要求内容安全管理的与时俱进,伴随甚至提前于技术的迭代而发展,图像及音视频内容的监测将有效防范人工智能在虚假信息、学术造假、网络钓鱼等灰色地带中的滥用。  1)内容输出侧,建议关注具备泛安全场景化应用能力和内容生产制作能力的当虹科技(688039);2)内容应用侧,重点关注国内安防龙头海康威视(002415);3)内容安全管理侧,重点关注兼有AI 数据资源优势和安全能力的三六零(601360),建议关注传媒安全领军企业博汇科技(688004)。  【风险提示】  多模态模型推出不及预期风险;技术发展不及预期风险。 【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。

   【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。

内容监管:AI生态良好发展的先决条件

相关文章

平安银行回应优享旅途权益内容:投诉人相关问题已得到解决

平安银行回应优享旅途权益内容:投诉人相关问题已得到解决

  2月28日消息,针对此前发布的《平安信用卡优享旅途权益内容成谜?凌晨查订单显示网络拥挤,被质疑套路推销|金融曝光台》报道,平安银行信用卡中心对此回应称,目前投诉人刘女士的相关投诉问题已得到解决。 ...

石油股早盘持续走高 中海油田服务现涨超4%

石油股早盘持续走高 中海油田服务现涨超4%

  石油股早盘持续走高,中海油田服务(02883)上涨4.16%,报9.02港元,成交额2516.002万港元;   中国石油化工股份(00386)上涨1.74%,报5.25港元,成交额2.449亿...

金龙汽车(600686):该股换手率大于8%(05-16)

金龙汽车(600686):该股换手率大于8%(05-16)

摘要:2023年05月16日金龙汽车(600686)换手率大于8%,主力资金净流出4017.95万元。 换手率大于8%说明了该股票当前处于比较活...

华尔街“大空头”看好中概股 大举增持阿里、京东

华尔街“大空头”看好中概股 大举增持阿里、京东

财联社5月16日讯(编辑 刘蕊)美东时间周一,美国证监会刊登的13F报告显示,华尔街知名“大空头”基金经理迈克尔?巴里(Michael Burry)在今年第一季度大举押注中国科技股,大幅提高了对京东和...

佳云科技(300242)盘中异动 股价振幅达7.67% 跌6.88% 报3.52元(05-16)

佳云科技(300242)盘中异动 股价振幅达7.67% 跌6.88% 报3.52元(05-16)

摘要:2023年05月16日佳云科技(300242)股价大幅跳水6.88%,该股报3.52元/股,振幅7.67%。 2023年05月16日13时01分,佳云科技(...

华安证券股份有限公司上调四方光电评级

华安证券股份有限公司上调四方光电评级

2023年2月27日,华安证券股份有限公司发布研报,上调四方光电评级,评级由“增持”调整为“买入”。2023年2月27日,华安证券(600909)(600909)股份有限公司发布研报,上调四方光电评级...