ai语义识别 文章 进入ai语义识别技术社区

何以为猫？可解释AI从语义层面理解CNN的识别机制

• 来自北京大学、东方理工、南方科技大学和鹏城实验室等机构的研究团队提出了一种语义可解释人工智能(semantic explainable AI, S-XAI）的研究框架，该框架从语义层面解释了 CNN 的学习机制。近年来，CNN 因其优异的性能，在计算机视觉、自然语言处理等各个领域受到了研究者们的青睐。但是，CNN 是一个 「黑盒」 模型，即模型的学习内容和决策过程很难用人类能够理解的方式提取和表达，这限制了它的预测可信度和实际应用。因此，CNN 的可解释性受到了越来越多的关注，研究者们试图采用特征可视化，
• 关键字： AI  AI语义识别  CNN学习机制  S-XAI