功能描述：
機器學習全靠調參？這個思路已經過時了。
谷歌大腦團隊發布了一項新研究：
只靠神經網絡架構搜索出的網絡，不訓練，不調參，就能直接執行任務。
這樣的網絡叫做WANN，權重不可知神經網絡。
它在MNIST數字分類任務上，未經訓練和權重調整，就達到了92%的準確率，和訓練后的線性分類器表現相當。
除了監督學習，WANN還能勝任許多強化學習任務。
團隊成員之一的大佬David Ha，把成果發上了推特，已經獲得了1300多贊：
第一項任務，Cart-Pole Swing-Up。
這是經典的控制任務，一條滑軌，一臺小車，車上一根桿子。
小車在滑軌的范圍里跑，要把桿子從自然下垂的狀態搖上來，保持在直立的位置不掉下來。
(這個任務比單純的Cart-Pole要難一些：
Cart-Pole桿子的初始位置就是向上直立，不需要小車把它搖上來，只要保持就可以。)
難度體現在，沒有辦法用線性控制器 (Linear Controller) 來解決。每一個時間步的獎勵，都是基于小車到滑軌一頭的距離，以及桿子擺動的角度。
WANN的最佳網絡 (Champion Network) 長這樣：
第二項任務，Bipedal Waker-v2
一只兩足“生物”，要在隨機生成的道路上往前走，越過凸起，跨過陷坑。獎勵多少，就看它從出發到掛掉走了多長的路，以及電機扭矩的成本 (為了鼓勵高效運動) 。
每條腿的運動，都是由一個髖關節、和一個膝關節來控制的。有24個輸入，會指導它的運動：包括“激光雷達”探測的前方地形數據，本體感受到的關節運動速度等等。
比起第一項任務中的低維輸入，這里可能的網絡連接就更多樣了：
所以，需要WANN對從輸入到輸出的布線方式，有所選擇。
這個高維任務，WANN也優質完成了。
你看，這是搜索出的最佳架構，比剛才的低維任務復雜了許多：
第三項任務，CarRacing-v0。
這是一個自上而下的 (Top-Down) 、像素環境里的賽車游戲。
一輛車，由三個連續命令來控制：油門、轉向、制動。目標是在規定的時間里，經過盡可能多的磚塊。賽道是隨機生成的。
研究人員把解釋每個像素 (Pixel Interpretation) 的工作交給了一個預訓練的變分自編碼器 (VAE) ，它可以把像素表征壓縮到16個潛在維度。
這16維就是網絡輸入的維度。學到的特征是用來檢測WANN學習抽象關聯 (Abstract Associations) 的能力，而不是編碼不同輸入之間顯式的幾何關系。
這是WANN最佳網絡，在-1.4共享權重下、未經訓練的賽車成果：
1、創建初始的最小神經網絡拓撲群。
2、通過多個rollout評估每個網絡，并對每個rollout分配不同的共享權重值。
3、根據性能和復雜程度對網絡進行排序。
4、根據排名最高的網絡拓撲來創建新的群，通過競爭結果進行概率性的選擇。
然后，算法從第2步開始重復，在連續迭代中，產生復雜度逐漸增加的權重不可知拓撲（weight agnostic topologies ）。
|
