AI究竟是如何做出決定的？谷歌研究員在研究辦公用品
油煙處理設備
左邊是呈現給神經網絡的圖像，該網絡被訓練來鑒別圖像中的物體，比如辨別圖像裡是否包含花瓶或者檸檬。右邊是可視化的圖像，顯示神經網絡中間的一層在圖像的每個位置檢測到的東西。神經網絡似乎在檢測花瓶狀圖案和檸檬狀物體。
網易科技訊3月8日消息，據《紐約時報》報道，所謂的神經網絡大大推動瞭人工智能的發展，但理解計算機如何作出決策卻十分困難。谷歌的研究人員正在學習機器是如何學習的。
機器正在開始自己學習執行任務。它們在鑒別面孔，識別口語詞匯，查看醫學掃描圖，甚至展開它們自己的對話。
原始圖像以及神經網絡看到它後形成的三張可視化圖像。網絡的第一層主要是檢測邊緣和顏色。其他的層開始識別更為復雜的概念，如花朵、花瓶和檸檬。
所有這些任務都是通過所謂的神經網絡來完成的，這些網絡屬於復雜的計算機算法，是通過分析海量的數據來學習執行任務。但是，這些神經網絡帶來瞭一個科學傢正試圖解決的問題：判斷機器如何得出結論並不總是一件容易的事情。
周二，谷歌的一個團隊朝著解決這個問題邁出瞭一小步。他們所展示的新研究成果，大概描述瞭顯示機器如何作出它們的決策的技術。
神經元組自動學會一起表示圖像中的概念。五個神經元組似乎分別對應於花朵、花瓶口、瓶身、背景和檸檬。熱圖顯示每個神經元組在圖像上的位置。
谷歌研究員克裡斯托弗·奧拉（Christopher Olah）指出，“即使隻是看到機器作出決策的一部分過程，你也能夠形成很多關於它失效的潛在方式的瞭解。”
越來越多的AI研究人員在開發更好地理解神經網絡的方法。目前供職於打車服務巨頭Uber人工智能實驗室的美國懷俄明州立大學教授傑夫·克蘭（Jeff Clune）將這類技術稱作“人造神經科學”。
神經網絡兩個不同的層上的神經元組和輸出分類。線條顯示哪些神經元組支持或抑制後面的神經元組或者輸出分類。例如，“檸檬”分類得到瞭一個黃色的檸檬式的組的強力支持。
理解這些系統如何運作將變得更加重要，因為它們所做的決策目前是由人類來作出的，比如誰獲得工作，自動駕駛汽車如何應對緊急情況。
神經網絡概念最早在20世紀50年代被提出，它旨在模擬大腦中的神經元網絡。但那隻是一個粗略的類似。這些算法真的是一連串的數學計算，每個操作都代表一個神經元。谷歌的新研究，意在以高度可視的方式展示這些數學計算是如何執行離散的任務的，如識別照片中的物體。
“花瓶”分類獲得瞭分別代表花、花瓶口和背景的神經元組的支持。
在神經網絡內，每個神經元都會去識別照片中可能出現的特定特征，比如從特定角度從右到左彎曲的線條，或者合並形成更大形狀的多條線條。谷歌希望提供工具來顯示每個神經元在試圖識別什麼東西，哪些神經元識別成功，以及它們的努力如何共同判斷照片中實際上有什麼——可能是小狗、燕尾服或小鳥。
奧拉表示，谷歌正在大陸商標申請討論的這種技術可能也有助於判斷神經網絡為什麼容易出錯，以及在寫情況中解釋它是如何習得這種行為的。包括克蘭在內的其他研究人員認為，該類技術還有助於最大限度地減少“對抗樣本”的威脅，比如某人可能通過篡改圖像來欺騙神經網絡。
研究人員坦言，這項研究仍處於起步階段。同樣供職於Uber人工智能實驗室的Jason Yosinski認為谷歌的技術理念“是頂級的”。 Uber的AI實驗室產生於該公司收購回來的初創公司Geometric Intelligence。不過Jason Yosinski也警告稱，理解計算機思維可能永遠都不會變容易。
“在某種程度上，隨著這些網絡變得2017年雞籠中元祭｜中元祭｜基隆中元祭｜2017基隆中元祭｜雞籠中元祭｜基隆中元祭活動｜2017基隆中元祭活動越來越復雜，要理解它們為什麼做出決策將變得極其困難，”他說道，“這有點像試圖理解人類為什麼做出某些決策。”（樂邦）
台中洗水塔
本文來源：網易科技報道
責任編輯：王鳳枝_NT2541
油煙處理設備
左邊是呈現給神經網絡的圖像，該網絡被訓練來鑒別圖像中的物體，比如辨別圖像裡是否包含花瓶或者檸檬。右邊是可視化的圖像，顯示神經網絡中間的一層在圖像的每個位置檢測到的東西。神經網絡似乎在檢測花瓶狀圖案和檸檬狀物體。
網易科技訊3月8日消息，據《紐約時報》報道，所謂的神經網絡大大推動瞭人工智能的發展，但理解計算機如何作出決策卻十分困難。谷歌的研究人員正在學習機器是如何學習的。
機器正在開始自己學習執行任務。它們在鑒別面孔，識別口語詞匯，查看醫學掃描圖，甚至展開它們自己的對話。
原始圖像以及神經網絡看到它後形成的三張可視化圖像。網絡的第一層主要是檢測邊緣和顏色。其他的層開始識別更為復雜的概念，如花朵、花瓶和檸檬。
所有這些任務都是通過所謂的神經網絡來完成的，這些網絡屬於復雜的計算機算法，是通過分析海量的數據來學習執行任務。但是，這些神經網絡帶來瞭一個科學傢正試圖解決的問題：判斷機器如何得出結論並不總是一件容易的事情。
周二，谷歌的一個團隊朝著解決這個問題邁出瞭一小步。他們所展示的新研究成果，大概描述瞭顯示機器如何作出它們的決策的技術。
神經元組自動學會一起表示圖像中的概念。五個神經元組似乎分別對應於花朵、花瓶口、瓶身、背景和檸檬。熱圖顯示每個神經元組在圖像上的位置。
谷歌研究員克裡斯托弗·奧拉（Christopher Olah）指出，“即使隻是看到機器作出決策的一部分過程，你也能夠形成很多關於它失效的潛在方式的瞭解。”
越來越多的AI研究人員在開發更好地理解神經網絡的方法。目前供職於打車服務巨頭Uber人工智能實驗室的美國懷俄明州立大學教授傑夫·克蘭（Jeff Clune）將這類技術稱作“人造神經科學”。
神經網絡兩個不同的層上的神經元組和輸出分類。線條顯示哪些神經元組支持或抑制後面的神經元組或者輸出分類。例如，“檸檬”分類得到瞭一個黃色的檸檬式的組的強力支持。
理解這些系統如何運作將變得更加重要，因為它們所做的決策目前是由人類來作出的，比如誰獲得工作，自動駕駛汽車如何應對緊急情況。
神經網絡概念最早在20世紀50年代被提出，它旨在模擬大腦中的神經元網絡。但那隻是一個粗略的類似。這些算法真的是一連串的數學計算，每個操作都代表一個神經元。谷歌的新研究，意在以高度可視的方式展示這些數學計算是如何執行離散的任務的，如識別照片中的物體。
“花瓶”分類獲得瞭分別代表花、花瓶口和背景的神經元組的支持。
在神經網絡內，每個神經元都會去識別照片中可能出現的特定特征，比如從特定角度從右到左彎曲的線條，或者合並形成更大形狀的多條線條。谷歌希望提供工具來顯示每個神經元在試圖識別什麼東西，哪些神經元識別成功，以及它們的努力如何共同判斷照片中實際上有什麼——可能是小狗、燕尾服或小鳥。
奧拉表示，谷歌正在大陸商標申請討論的這種技術可能也有助於判斷神經網絡為什麼容易出錯，以及在寫情況中解釋它是如何習得這種行為的。包括克蘭在內的其他研究人員認為，該類技術還有助於最大限度地減少“對抗樣本”的威脅，比如某人可能通過篡改圖像來欺騙神經網絡。
研究人員坦言，這項研究仍處於起步階段。同樣供職於Uber人工智能實驗室的Jason Yosinski認為谷歌的技術理念“是頂級的”。 Uber的AI實驗室產生於該公司收購回來的初創公司Geometric Intelligence。不過Jason Yosinski也警告稱，理解計算機思維可能永遠都不會變容易。
“在某種程度上，隨著這些網絡變得2017年雞籠中元祭｜中元祭｜基隆中元祭｜2017基隆中元祭｜雞籠中元祭｜基隆中元祭活動｜2017基隆中元祭活動越來越復雜，要理解它們為什麼做出決策將變得極其困難，”他說道，“這有點像試圖理解人類為什麼做出某些決策。”（樂邦）
台中洗水塔
本文來源：網易科技報道
責任編輯：王鳳枝_NT2541
文章標籤
全站熱搜
留言列表
