使用認知心理學解釋深度神經網絡

    原標題：使用認知心理學解釋深度神經網絡：DeepMind新研究破解AI黑箱問題

    近日，DeepMind在其官方博客上發表了一篇題為《Interpreting Deep Neural Networks using Cognitive Psychology》的文章，試圖通過認知心理學來解決深度神經網絡中的「黑箱問題」，隨著神經網絡被廣泛應用于實際問題，這一問題正變得越發重要；并且在已被ICML收錄的DeepMind最新論文《Cognitive Psychology for Deep Neural Networks: A Shape Bias Case Study》中，其證明了認知心理學工具能夠揭示DNN背后隱藏的計算特性，同時也為人類學習語言提供了一種計算模型。機器之心對博客文章和論文摘要進行了編譯。原文鏈接見文中。

深度神經網絡已經學會去處理一些令人感到驚奇的任務——從圖像識別和推理物體，到在 Atari 游戲和圍棋上超越人類。由于這些任務和網絡結構正在變得更復雜，神經網絡學習的解決方案也會變得更加難以理解。

這就是「黑箱」問題，而且它正在變得越發重要，因為神經網絡正在被應用于越來越多的實際應用當中。

在 DeepMind，我們正在努力去擴展用于理解和解釋這些系統的工具包。在我們最新的論文中（最近被 ICML 收錄），提出了一種解決此種問題的新方法，即利用認知心理學的方法去理解深度神經網絡。認知心理學通過判斷行為表現來推斷認知層面的機理，并且涵蓋大量的詳述這些機理的資料和實驗論證。由于我們的神經網絡在一些特定任務中可以接近人類的水平，因此認知心理學方法與黑箱問題之間的關系也正在變得越來越緊密。