無需寫代碼！谷歌推出機器學習模型分析神器，代號What-If

來自專欄量子位59 人贊了文章

銅靈 編譯整理

量子位 出品 | 公眾號 QbitAI

今天，谷歌推出了已開源的TensorFlow可視化工具TensorBoard中一項新功能：What-If Tool，用戶可在不編寫程序代碼的情況下分析機器學習（ML）模型。

不用寫代碼？

沒錯，只需為TensorFlow模型和數據集提供指針，What-If Tool就能給出一個可用來探索模型結果的可交互的視覺界面。

What-If Tool里功能很多，包括自動用Facets將數據集可視化，也有從數據集中手動編輯示例並查看更改效果的功能，還能自動生成部分關係圖，顯示模型預測隨著單個特徵的改變而改變的趨勢。

不過，這還不是What-If Tool的全部實力。

7大功能

What-If Tool主要有七大功能，不知道有沒有你需要的那一款：

功能一：可視化推斷結果

根據推斷結果的不同，你的示例會被分成不同的顏色，之後可用混淆矩陣和其他自定義形式進行處理，從不同特徵的角度顯示推斷結果。

功能二：編輯一個數據點，看模型表現如何

你可以編輯、添加或刪除任何選定數據點的特性或特性值，然後運行推斷來測試模型性能，也可上傳全新示例。

功能三：發掘單個特徵的效果

可以用來探索為選中數據點中的單個特徵自動生成的圖，顯示特徵有效值不同時推斷結果的變化。

功能四：探索反事實示例

輕輕一點，你就能比較數據點與模型預測出不同結果的最相似點。我們將這些點稱為「反事實」（Counterfactuals），可以反映出模型的決策邊界。

功能五：按相似度排列示例

用L1或L2距離從選定的數據點創建距離特性，並將其可視化進行進一步分析。

功能六：查看混淆矩陣和ROC曲線

對於包含描述真實標籤特性的二分類模型和示例，使用閾值、ROC曲線、數值混淆矩陣和成本比互動式地探索模型性能。

功能七：測試演算法公平性限制

對於二分類模型來說，這個工具可以將你的數據集分成子數據集，繼而探索不同演算法公平性約束（fairness constraints）的影響。

傳送門

在谷歌官方博客上，研究人員還發布了用預訓練模型進行的一組演示，比如檢測錯誤分類的原因，評估二元分類模型的公平性和調查不同子數據集中模型的表現等。可以移步官方博客查看更多，博客地址：