次代へと歩みを進める、
安全検証

宇宙と社会とJAMSSの未来を拓く
世界でも類を見ない新たな研究成果

IV&V研究センター 
野本 秀樹/飯野 翔太/広瀬 貴之

栄誉ある賞に輝く、新たなAIシステムの安全検証手法

栄誉ある賞に輝く、
新たなAIシステムの安全検証手法

『IEEE Aerospace conference 2022』において、JAMSSのIV&V研究センターが『Best Paper in Track Award』を受賞した。

この学会は「航空宇宙分野において世界最高峰」と言われており、2022年もNASAの研究所をはじめとする世界中の研究機関が故障予知・故障診断の最先端研究の発表を行った。その中でIV&V研究センターが発表した「Explainable Symptom Detection in Telemetry of ISS with Random Forest and SpecTRM」が最も優れた研究発表と認められたのだ。これは、独自の人工知能(AI)に対する安全検証の手法を、宇宙ステーションシステム機器の異常予兆検知に応用した研究であり、この快挙を受けてIV&V研究センターは故障予知・故障診断の国際学会の実行委員にも選出されることとなった。

ではこの研究はどのようにして生まれ、形を成していったのか。
そのスタートは20年以上前に遡ることになる。

宇宙という未知のフロンティアに挑む

宇宙という
未知のフロンティアに挑む

「ソフトウエアについて、設計者と異なる第三者が設計をレビューしなければならない」

これは宇宙ステーションの設計要求に書かれている一文だ。
しかし、これが書かれた1996年当時、世界のどこを探してもそれを実行している機関はなかった。NASAもESAも、JAXAもどうするべきか悩み、共に話し合い、アイデアを出し合った。結果、NASAは大規模な宇宙ステーションシミュレーターを構築。ESAは、厳格な設計要求の適用を実施。そして日本は「フォーマルメソッドによるロジックの数学的論証」という、2者とは違った方向性を打ち出した。そしてその確立を目指し、野本秀樹率いるIV&V研究センターがJAMSSに新設された。

日本の方向性は、難解だった。フォーマルメソッドは、数学や数理論理学の蓄積を利用して、情報システムの正しさを厳密に検証するという手法だ。だが、宇宙はまだまだ解明されていないことが多く、そこへの挑戦は前人未踏のまったく新しいものばかり。蓄積はなく、何が正しいのかは誰にも分からない状態。ただ、目指すべきことはわかっていた。それは「安全である」ということ。宇宙船、宇宙ステーション、宇宙飛行士が、トラブルを起こさず、予定通り活動できることだ。

では、「安全である」ためにはどうすればいいだろうか。多くの場合「失敗しない」ことを目指すだろう。想定されない動きや規程にない操作。そういったものが発生する可能性をひとつ一つ排除していけば、失敗は起こらない。ただ、その考え方はすぐに大きな壁にぶつかることになる。
「失敗の可能性は膨大にある。それを回避するためにすべてをプログラムに記述しようとすると、何十億もの行を費やすことになる。そんなことをしていてはいつまでも先に進めない」
さらにプログラムが長大になることで、システムが重くなってしまうと野本は話す。
失敗を考慮して「予備を設ける」という方法も、深宇宙探査の宇宙船では問題がある。Aが故障した時のために、Bを。Bの予備としてCを搭載する。すると2度トラブルが起きても、リカバリーができる。だが当然、重量は3倍になる。その場合、必要な燃料は8倍にもなる。
「地球低軌道を超え、未来は月や火星、土星を目指すことになる。その場合はいかに船体が軽く、いかに多く燃料を積めるかがキモになる。失敗を回避する、というやり方では限界があった」と野本は話す。

発想の逆転が、かつて無い独自のシステムを生み出す種に

発想の逆転が、
かつて無い
独自のシステムを生み出す種に

2015年、エリック・ホルナゲル博士との出逢いが、そこに光明をもたらすこととなった。その考え方は、まったくの逆。失敗につながる要素を潰すのではなく、ひたすらに成功を目指す。例えば、植物が陽のある方へと枝を伸ばすように。人が片脚をケガしても、それをかばってうまくバランスを取るように。柔軟にしなやかに目的である「成功」を目指す。従来の宇宙機のエンジンは、「前に進むための脚」と「横に進むための脚」、「上下に飛ぶための脚」、そして「縦回転のための脚」「横回転のための脚」「きりもみ回転のための脚」を別々に持っていた。もし脚が一つでも故障すると、6本の脚をすべて捨て、予備の6本に切り替えるような設計であった。しかし、数十億年かけて成功体験を練り上げられてきた我々人類の脚は、そのような非効率な設計ではない。6種類すべての動きをたった2本の脚で実現し、かつ、たとえ一本の脚に怪我を負ったとしても、予備の脚に切り替えることもなく、動き続けることができる。「ひたすらに成功を目指す」。それが「レジリエンス・エンジニアリング」。異次元の性能と安全性を両立できる、新しい安全の考え方である。
「JAMSSにはこれまで30年にわたり宇宙事業で収めてきた豊富な成功例がある。それはすべて『安全である』ことの事例になる。その成功例をインプットし、いかなる時もひたすらに成功を目指せるようにすればいいのです。失敗を潰すことに比べると記述は少なく、システムはとても軽やかになる」と野本。

いかなる時も成功を目指す。膨大な情報を処理し、即座にそれを可能とするのがAIだ。飯野翔太がその研究を担った。2018年の入社からAI研究用PCの調達に始まり、最先端研究を知るためにカナダのバンクーバーで行われた国際学会NeurIPSにIV&V研究センターのメンバーと一緒に参加。夜遅くまで世界各国の研究者と議論を戦わせ、様々な試行錯誤を繰り返すことで、AIの知見を培い、研究開発を進めていった。注力したのは、AIの判断根拠の可視化。

「AIの判断根拠の可視化研究は変化が激しい。日進月歩で世界中で新たな理論や方法が生みだされています。その中からJAMSSのフォーマルメソッドによる安全検証に有用なものを選び、実装していきました。独自の研究を行うために活きたのが、やはりJAMSSの過去の有人宇宙分野での知見。ベストペーパー賞を受賞した異常予兆検知の研究においては、宇宙ステーションのシステム機器の設計や運用に熟知している社内外の専門家にヒアリングを行い、どのようなシステムが求められ、どのようなデータを活用することができるか、運用の現場でどのようなことが起こっているのかなどヒアリングし、研究を進めていきました」と飯野は話す。

「AI技術の発展などによりシステムの自動化が推し進められると、今度は人の介在がブラックボックスとなる。つまりどのような情況で人が関わり、どのような操作をするか、そういったことが不確定な要素として安全を脅かす可能性が出てくる。しかしそこに固執してしまうと、人はエラーの源であり、そのような要素は可能な限り排除すべきという従来のネガティブな考えから脱却できない」と広瀬貴之は話す。広瀬は学生時代から「人と機械の協調」について研究を進めてきた。その研究が活かせる、と学会で出会ったIV&V研究センターに就職を希望したのだ。

「特に1978年に発生したスリーマイル島の原発事故を契機に『たとえどんなに技術が発達しようとも、人と機械が足並みそろえて動かないと危ない』という考え方が急速に発展しました。ただ、やはり『人』という摩訶不思議な存在の持つ特性を考えることは容易でなく、今も多くの研究者が頭を悩ませています。このような課題に対し我々は、『人の持つ能力・可能性』に焦点を当て、とりわけ人の柔軟性や創造性がなぜ功を奏するのかという観点から、研究段階の理論や技術を、業務での実用レベルに足る内容にまで昇華することを目指しています。社名に“有人”と名の付く我々が、人や組織の持ちうる可能性を十分に引き出し、安全に活かしていく方針を加速させていることには大きな意味がある」と話す。

宇宙の未来を拓く。暮らしの未来を築く。
JAMSSの未来の力となる。

宇宙の未来を拓く。
暮らしの未来を築く。
JAMSSの未来の力となる。

こうして20年超にわたって研究と試行錯誤を繰り返した結果、実ったのが冒頭の受賞結果。IV&V研究センターのメンバーがそれぞれの知見と専門性を活かして生みだした、世界に類を見ない「AIシステムの安全検証に関する手法」。特許(国際・国内)も取得した。

JAMSSの実績として輝かしいことはもちろんだが、この研究が認められたことは、宇宙事業の歩みにおいても大きな意味を持つ。今後、宇宙界開発、月・火星・深宇宙探査においては、より自動化・AI技術の活用が進むことが予想されている。この研究を活用することで、安全かつ軽く・速いシステムが実現する。つまり、より少ない重量・燃料で宇宙船を開発することが可能になる。そしてそれだけ、長大な距離を航行できる可能性が高まるのだ。さらに、宇宙だけでなく、航空機や自動運転車、自動運航船など、様々な分野のシステムにも活用が期待される。宇宙事業の次の時代を拓く。そして私たちの暮らしの豊かさにも活かせる。そんな研究なのだ。
今後、IV&V研究センターのこの研究を活かした新事業が、JAMSSの新たな力となることだろう。

IV&V研究センターによる『FRAM(機能共鳴分析手法)による成功学に基づく安全工学』について、詳しくは論文・プレスリリースをご覧ください。

参考資料
論文『FRAM(機能共鳴分析手法)による成功学に基づく安全工学
PDFファイルが開きます
https://www.ipa.go.jp/files/
000068587.pdf

補足資料「STAMPとFRAM」(野本)
PDFファイルが開きます
https://www.ipa.go.jp/files/
000062849.pdf

https://www.ipa.go.jp/files/
000057123.pdf

受賞を知らせるJAMSSニュースページ
JAMSSからのお知らせに飛びます
https://www.jamss.co.jp/news/
detail.php?id=o0bsq7-sic3m

受賞時のプレスリリース
外部サイトが開きます
https://prtimes.jp/main/html/rd/p/
000000021.000042485.html

1996年中途入社
専攻:政治経済学専攻

野本 秀樹(Hideki Nomoto)
/安全開発・ミッション保証部 IV&V研究センター

ネットワークを扱う企業に就職後、独立して起業を果たす。「宇宙に憧れがあったが、当時は理系の人間が進むものだと思っていた。ネットワークを使ったサービスを開発する中で、JAMSSと取引をすることがあり、その後転職してIV&V研究センターを作ることになりました」という経歴を持つ。

2018年中途入社
専攻:システム情報
工学専攻

飯野 翔太(Shota Iino)
/安全開発・ミッション保証部 IV&V研究センター

IV&V研究センターで宇宙システム・AIシステム・自動運航船・自動運転車等の安全性評価を手がける。過去には「きぼう」実験運用管制官・「こうのとり」運用も経験。現在は新型宇宙船HTV-Xの管制官候補として訓練を実施中。

2020年新卒入社
専攻:機械理工学専攻

広瀬 貴之(Takayuki Hirose)
/安全開発・ミッション保証部 IV&V研究センター

大学時代から手がけている「人と機械の協調に基づく安全」に関する研究の知識を、JAMSS入社後は宇宙に限らず様々な分野、領域、業界に応用・実践できないかと模索を続けている。趣味はガジェットやツールの組み立て・メンテナンス。PCの組み立てから自転車の整備、包丁研ぎまでDIYでこなす本格派。

一覧へもどる