畳み込みニューラルネットワークは実は特許が取られていた事

１．畳み込みニューラルネットワークは実は特許が取られていた事まとめ

・畳み込みニューラルネットワークには1990年代にアメリカで２つの特許が成立していた
・AT＆Tの会社分割により研究者と特許が離ればなれになってしまい研究継続が困難になった
・2007年に特許が切れた際にはシャンパンで乾杯した程ドキドキしながら研究をしていた

以下、Deep Learningの三賢人の一人Yann LeCunさんのTwitter(@ylecun)に2021年7月7日に投稿されていた畳み込みニューラルネットワーク(CNN:Convolutional Neural Network、ConvNetと略される事もあります)の開発秘史です。

絶対誰も気づかないだろうけれども・・・とドキドキしながら研究を勧めるチャーミングなYann LeCun博士をイメージしたアイキャッチ画像のクレジットはPhoto by Russell Ferrer on Unsplash

ConvNetsには2つの特許がありました。1つはストライド畳み込みを備えたConvNetsで、もう1つは個別のプーリングレイヤーを備えたConvNetsです。それらは1989年と1990年に提出され、1990年と1991年に認可されました。

私たちはそれからOCRシステムを構築する開発グループと協力し始めました。その後まもなく、AT＆T社は銀行向けの支払い小切手用イメージセンサー/仕分け装置を開発していたNCRを買収しました。小切手の金額を転記するために画像が人間に送られていました。明らかに、彼らはそれを自動化したかったのです。

最終的には、製品展開するのに十分な信頼性を備えた完全な小切手読み取りシステムが構築されました。銀行での商業展開は1995年に始まりました。システムは、小切手の約半分(機械で印刷された文字、または手書き文字)を読み取る事が出来、残りの半分を人間のオペレーターが確認するようになりました。

最初の製品展開は、実際にはその1年前に、金額確認のためにATMマシンで行われました。(フランスのCrédit Mutuel協同組合銀行で最初に展開されました)

その後、1996年に大惨事が発生しました。AT＆TはAT＆T(サービス)、Lucent(通信機器)、およびNCRに会社分割されました。私たちの研究グループはAT＆T(AT＆T Labs-Researchを含む)に、エンジニアリンググループはLucentに、製品グループはNCRにとどまりました。

弁護士は、彼らの無限の知恵で、ConvNetの特許をNCRに割り当てました。なぜなら、彼らはそれらに基づいた製品を販売していたからです。

しかし、NCRの誰も、ConvNetが何であるかを知りませんでした。

私は少し落ち込んでいました。私自身の知的生産活動に取り組むことが本質的に禁じられたためです。

私は部門長に昇進し、次に何をすべきかを決定しなければなりませんでした。それは、インターネットが普及していた1996年の事でした。

そして私は機械学習の研究を止めました。いずれにしてもニューラルネットは人気がなくなっていました。私はLéon Bottouと一緒にDjVuと呼ばれるWebの画像圧縮に関するプロジェクトを開始しました。そして、1990年代初頭に行ったすべてのことについて論文を書きました。

私がConvNetsの研究を再開したのは、2002年の初めにAT＆Tを離れてからでした。

私がしていることについてNCRの誰も、彼らが特許を所有していることに気付かないことを望んでいました。

そして誰も気づきませんでした。2007年に特許が切れたとき、私はシャンパンで乾杯しました！

この話の教訓

特許は、特許を足掛かりに作業する人々から分離されている場合、非常な逆効果になる可能性があります。

特許は、特定のもの、主に物理的なものに意味があります。しかし、大まかに言えば、「ソフトウェア」にはほとんど意味がありません。

ヒントン先生がLeCun博士をニューラルネットの研究プログラムに招待したのは2004年なので、その当時はまだCNNの特許は切れてなかったんですね。それは確かにドキドキだったかもしれない。

この件は過去の笑い話っぽくなってますが、将来的にGoogleなりFaceBookなりが分割されて、分割後の新会社がオープン戦略から商売っ気優先のクローズドな戦略に転換したら、皆が事実上の標準技術と思って使っていた事にライセンス料が請求される時代も来るかもしれませんね。

１）twitter.com
@ylecun