大学院情報科学研究科の江波戸雄大さん(博士後 期課程1年)、情報工学科の信川創教授、数理工学研 究センターの酒見悠介上席研究員ら3名と東京大学 などの研究チームは、ニューロン内部の「時間履歴項」(THT)の調整によるダイナミクスの最適化が次世 代 型 人 工 知 能 「 エ コ ー ス テ ー ト ネ ッ ト ワ ー ク 」( E S N ) の性能向上で重要な役割を担うことを解明し、5月1 日に発表しました。研究成果は4月15日に英科学雑誌「Scientific Reports」で紹介されています。 ESNは効率的な学習を実現する人工知能で、 学習効率が高い機械学習手法であるリザバーコン ピ ュ ー テ ィ ン グ( R C )モ デ ル の 一 種 で す 。同 モ デ ル は 訓 練 し な い 再 帰 型 ニ ュ ー ラ ル ネ ッ ト ワ ー ク( R N N )を 利用し、出力への重みのみを調整します。低消費電 力の物理実装が可能な次世代型人工知能で、音声 認 識 や 株 価 予 測 、ネ ッ ト ワ ー ク ト ラ フ ィ ッ ク 制 御 な ど への応用が研究されています。 本学と東大などの研究チームは、ESNのリザバー を構成するニューロンモデルのTHTがどのように 性能に寄与するかを調査しました。THTは現時刻の ニューロンの発火状態に過去の自らの発火状態の 履歴をどの程度残すかを調節するパラメータで、調 整によってリザバーの状態変動のタイムスケールを
入力信号や目標出力に合わせることができます。 ESNの性能向上にはTHTが有効であるとされて きましたが、これまで具体的な調整方法や効果など は十分に検証されておらず、通常のESNと比べてど のように、どの程度性能が高いのかは定量的に示さ れ て い ま せ ん で し た 。 研究チームは、記憶性能や安定性、ダイナミクス の多様性などESNの性質にかかわる実験を通じ、 THTを導入したESNモデルが安定性とダイナミクス の多様性を保持しながら、通常のモデルでは実現で きない高い記憶性能を実現することを定量的に示し ました。研究成果はESNにおけるTHTの有用性を評 価し、さらなる性能向上を目指したモデル開発に貢 献すると期待されます。 研究は本学の江波戸、信川、酒見3名のほか、東 京大学の合原一幸特別教授・名誉教授(本学数理 工学研究センター主席研究員)、大和大学情報学部 情報学科の西村治彦教授、工学院大学先進工学部 機械理工学科の金丸隆志教授、東京都市大学知能 情報工学科のニーナ・スヴィリドヴァ講師が共同で 行いました。今後、時系列予測以外のタスクでの性 能評価や複数のタイムスケールを持つ時系列に対す る適用などを行う予定です。