エンジニアがついにディープニューラルネットワークの内部を覗き見る

世界中のどんな金庫も破れる最先端の装置を持っているが、それがどのように機能するのか全く分からないとします。どうすればよいでしょうか。もっと古い金庫破りの道具、たとえば頼りになるバールを使ってもいいでしょう。そのレバーを使って装置をこじ開け、内部を覗き込み、リバースエンジニアリングを試みることもできます。実は、科学者たちは数学を使ってまさにそれを実現したのです。

研究者らは、物理学者やエンジニアが何十年も使用してきた使い古されたタイプの数学的分析を用いて、人工知能の一種で内部が非常に謎めいていることで知られるディープ ニューラル ネットワークを調べた。研究者らは、その結果を 1 月 23 日のPNAS Nexus誌に発表した。その結果は、AI が人間が長年行ってきたのと同じ計算を多く行っていることを示唆している。

論文の著者らは、通常、ディープ ニューラル ネットワークを異常気象の予測やその他の気象応用に利用している。より正確な地域予報は人々が公園に行く日程を決めるのに役立つが、風や雲を予測することは、再生可能エネルギー事業者が今後数時間で送電網に何を投入するかを計画するのにも役立つ。

「私たちはこの分野でしばらく研究を続けてきましたが、ニューラルネットワークはこうした種類のシステムを扱う上で非常に強力であることが分かりました」と、テキサス州ライス大学の機械工学者で、この研究の著者の一人であるペドラム・ハッサンザデ氏は言う。

現在、気象学者は、巨大なスーパーコンピューターを必要とするモデルを使用して、この種の予報を行うことが多い。ディープ ニューラル ネットワークでは、同じタスクを実行するのに、はるかに少ない処理能力しか必要としない。誰もが現場でラップトップ コンピューターを使用してこれらのモデルを実行できる未来を想像するのは簡単だ。

[関連: ディズニーは俳優の年齢を自動的に変更するニューラル ネットワークを構築しました]

AI にはさまざまな形態があります。ディープ ニューラル ネットワークは、非常に重要なものの 1 つにすぎません。ニューラル ネットワークには 3 つの部分があります。画像から動物を識別するニューラル ネットワークを構築するとします。最初の部分では画像をデータに変換し、中間の部分ではデータを分析し、最後の部分ではデータを動物のリストと比較して最も一致するものを出力するといった具合です。

ディープ ニューラル ネットワークが「ディープ」である理由は、その作成者が中間部分を複数の層からなるはるかに複雑なものに拡張しているからです。たとえば、画像を監視するディープ ネットワークの各層は、画像のより複雑な部分を連続的に分析する場合があります。

その複雑さにより、ディープ ニューラル ネットワークは非常に強力になり、近年の AI の目覚ましい成果の多くを支えてきました。10 年以上前に初めて実現した機能の 1 つは、人間の話し声を文字に書き写すことでした。その後、ディープ ニューラル ネットワークは画像をカラー化したり、金融詐欺を追跡したり、薬物分子を設計したりしました。また、ハッサンザデ氏のグループが実証したように、天気を予測したり、気候を予報したりすることもできます。

[関連: ニューラル ネットワークにケーキを焼いてもらいました。結果は…興味深いものでした。]

多くの科学者にとって問題なのは、ネットワークの作り方が原因で、ネットワークが実際に何をしているのか誰も見ることができないことです。ネットワークを訓練するには、タスクを割り当ててデータを供給します。新しく生まれたネットワークがより多くのデータを消化するにつれて、そのタスクをよりうまく実行できるように調整します。その結果、「ブラック ボックス」、つまり内部があまりにも混乱していて、作成者自身でさえ完全に理解できないツールが生まれます。

AI の専門家たちは、自分たちの創造物そのものをより良く調べる方法を見つけるために、人生の数え切れないほどの時間を費やしてきました。単純な画像認識ネットワークでさえ、それを実現するのは困難です。無数の可動部分から成る地球の気候のようなシステムを処理するディープ ニューラル ネットワークを理解するのは、さらに困難です。

それでも、その努力の甲斐はあります。科学者がニューラル ネットワークの仕組みを知れば、独自のツールについてより深く理解できるだけでなく、それらのツールを他の用途に応用する方法も考えられます。たとえば、大気中の二酸化炭素量が多い世界でより効果的に機能する天気予報モデルを作成できるかもしれません。

そこでハッサンザデと彼の同僚は、物理学者や数学者の道具箱に何十年もきちんと収まっている手法であるフーリエ解析をAIに適用することを思いついた。フーリエ解析を翻訳行為として考えてみよう。最終的な言語は、データセットをより小さな関数の合計として表す。次に、特定のフィルターを適用してその合計の一部を消すことで、パターンを見ることができる。

結局、彼らの試みは成功しました。ハッサンザデ氏と彼の同僚は、彼らのニューラル ネットワークが本質的に行っていたことは、多くの科学者が使用するのと同じフィルターの組み合わせであることを発見しました。

「これにより、ニューラルネットワークの内部動作と、物理学者や応用数学者が過去数十年間に研究してきたことがよりよく結びつく」とハッサンザデ氏は言う。

もし彼と彼の同僚たちが発表した研究が正しければ、それは科学者たちが1世紀以上も研究してきた数学から作り上げたバールで、魔法のように思える何かをほんの少しだけ解明したということを意味する。