PyTorch vs. TensorFlow、ディープラーニングフレームワークはどっちを使うべきか問題【2021年】：AI・機械学習のツール＆ライブラリ

2大フレームワークであるTensorFlow／PyTorchに対して検索トレンドや研究論文数、Kaggle実用数などでの比較を行う。総括として「現状はどういう状況で、今後はどうなりそうか」について筆者なりの考察を加える。

[一色政彦，デジタルアドバンテージ]

印刷

通知 連載「％」の新着をメールで通知

髫穂ｹ晢ｽ�Post

Shareシェア

はてなブックマーク

SharePocket Button

連載目次

　昨年10月、同タイトルの記事を公開して好評だった。今回は、2021年に向けた、そのアップデート記事となる。

　ディープラーニング（深層学習）を実装する場合、専用のライブラリ／フレームワークを用いるのが一般的だ。ディープラーニングが流行してから直近5年ほどの間に、次々と新しいフレームワークが登場した。現在、主要なものを挙げると、

• TensorFlow： 2015年登場、Google製。一番有名で、特に産業界で人気
• Keras： 2015年登場、作者がGoogle社員。使いやすくて簡単。TensorFlow 2に同梱され標準API化
• PyTorch： 2016年登場、Facebook製。この中では新興だが、特に研究分野で人気急上昇中
• Chainer： 2015年登場、日本のPreferred Networks製。2019年12月に開発を終了し、PyTorchへの移行が推奨されている

などがある（※機械学習の分野にまで広げるとscikit-learnなどもあるが、今回は深層学習に絞る）。ちなみに、いずれもオープンソースである。

　2020年12月現在、主にTensorFlow／KerasとPyTorchがシェアを競っている状況である。この状況は、1年前と比べて大きな変化はないものの、去年の特色をさらに推し進めるような結果が出ているので本稿で解説したい。

　本稿ではTensorFlowとPyTorchという2大フレームワークにおける幾つかの比較（検索トレンド、研究論文での活用数、Kaggleでの実用数）を紹介していく。

TensorFlowとPyTorchの特色

　まず前提として、この2大フレームワークの特色を押さえておきたい。それぞれの特色は、以下のように昨年から引き続きあまり変わっていない。

• TensorFlowの特色： Kerasで簡単に実装でき、運用サポートが手厚く、実用／ビジネス方面に強い
• PyTorchの特色： カスタマイズやロジックの把握がしやすく、特に研究方面に強い

検索エンジンでのトレンド比較

　検索トレンドの比較では、TensorFlowとPyTorchのトレンド推移を比較することとする。比較期間は、2018年1月1日～2020年12月12日である。昨年は、日本／世界／アメリカ合衆国／中国に分けて説明したが、記事がよりシンプルになるよう「世界」に絞って解説する。日本独自の特色などがある場合は、文章で簡単に言及することとする。

　なお、検索トレンドを比較することに関しては、「真の人気を反映しているとは一概に言えないよね」という疑心が筆者自身の中にもあるのだが、「折れ線グラフの向きで、成長傾向か衰退傾向かは、ある程度判別できる」と考えているので、本稿でも紹介することにした。あくまで「検索エンジン」という特殊なプラットフォーム上でのトレンド比較なので、「どれが一番人気か」を判断する際には、その分を割り引いて捉えてほしい。

世界

図1　Googleトレンドでのフレームワーク比較： 世界（全ての国）

　青い線がTensorFlowで、赤い線がPyTorchである。2018年ごろは圧倒的にTensorFlowが高い検索シェアを占めていたが、2020年12月時点ではほぼ差がない拮抗（きっこう）状態となっている。

　2018年～2019年はPyTorchが圧倒的な上昇を見せたが、2020年はその伸びが弱まったようである。2020年後半でやや下降し始めている。

　一方で、TensorFlowは少しずつ下降していっており、全く上昇していないようである。

　2019年末の予想では、2020年中に検索シェアは逆転してもおかしくないと考えられたが、両方とも下降もしくは横ばいが見られる現状では、もちろん逆転してもおかしくないが、このままの僅差が2021年も続くのかもしれない（と筆者は考えている）。

　なお、日本においては2020年に入ってから両者の差がほぼなくなり、PyTorchがTensorFlowを上回る時期も出てきており、そのままの拮抗状態の横ばいが1年間、続いている。米国においては2020年9月ごろに両者の差がなくなり、両者ともやや下降気味となっている。

　この結果を受け、「いずれにしても、両者の特色に合わせた“すみ分け”が確立してきているのではないか」と筆者は考えている。その論拠として、研究分野の指標として「研究論文での活用数」、実用面での指標として「Kaggleでの実用数」のグラフを提示する。

研究論文での活用数

　通常、研究論文でのフレームワーク活用数を調べるのは大変だ。そこで昨年の記事でも利用したHorace He氏のWebアプリで生成したグラフをダウンロードしたものを引用しながら、研究分野でのトレンド比較を行っていく。比較期間は、主に2018年～2020年である（※厳密な月日についてはグラフからは不明なのでご了承いただきたい）。

　なお、このグラフで比較可能なのは、

• コンピュータービジョン（CV）系のカンファレンス： CVPR、ICCV、ECCV
• 自然言語処理（NLP）系のカンファレンス： NAACL、ACL、EMNLP
• 機械学習（ML）全般系のカンファレンス： ICML、ICLR、NeurIPS

という9個のトップ研究カンファレンスにおける論文リソースである（※よって、全ての研究論文を調査したわけではなく、標本に偏りが存在する可能性はあるので注意してほしい）。

　今回は、全論文リソースから作ったグラフのみを見てみよう。

TensorFlow／PyTorch使用時のPyTorchの割合

　図2のグラフは、TensorFlowもしくはPyTorchのいずれかを使用している論文だけに絞って、PyTorchの方を利用した論文の割合を時系列で示したものである（※それ以外のフレームワークの使用については調査対象外）。なお、左端にある目盛りの最上値は100％ではなく90％であることに注意してほしい。

図2　研究分野でのフレームワーク比較： TensorFlow／PyTorch使用時のPyTorchの割合（対象：全論文リソース）
引用元：Horace He氏のWebアプリ

　2019年から2020年の比較では、下記4つのカンファレンス論文のグラフ線が描かれている。

• ［CV系］CVPR 2019 → CVPR 2020： 66.52％ → 78.72％ (＋12.2ポイント)
• ［NLP系］ACL 2019 → ACL 2020： 71.75％ → 82.69％ (＋10.94ポイント)
• ［ML系］ICML 2019 → ICML 2020： 50.00％ → 66.67％ (＋16.67ポイント)
• ［ML系］ICLR 2019 → ICLR 2020： 50.00％ → 64.02％ (＋14.02ポイント)

　いずれもPyTorchの利用割合が10％～17％ほど増加している。このように、2018年、2019年の急伸からはやや鈍化した印象だが、引き続き2020年中も論文でのPyTorchの採用（もしくはTensorFlowからの切り替え）が進んだ結果となった。順当にこの傾向が2021年も続くと仮定すれば、上記4つのカンファレンス論文の平均値は、2020年末は73％となるが、2021年末には80％以上にまで進む可能性があるだろう。

　以上の結果から、研究分野／論文でのPyTorchの強さがあらためて確認できた。その他にも興味深いグラフがあるので、興味がある方は引用元のHorace He氏のWebアプリを確認してみてほしい。

Kaggleでの実用数

　研究分野に続いて、実用／実践面での活用数を比較してみよう。

機械学習でのフレームワークの利用率

　Kaggleなどのデータサイエンス／機械学習のコンペティションは、「研究しやすいかではなく、いかに効率的に実用しやすいか」という視点でフレームワークが選択されている、と本稿では想定している。Kaggleでは2017年から毎年、Kaggle参加者にアンケートを取っており、つい先日、2020年版のアンケート結果レポート『State of Data Science and Machine Learning 2020』が公開されたので、その中から「フレームワークの利用率」のグラフを図3に引用する。ちなみに2019年版はこちらで公開されている。

図3　実用面でのフレームワーク比較： 機械学習でのフレームワークの利用率（対象：Kaggle参加者）
引用元：『State of Data Science and Machine Learning 2020』

　これを見ると、TensorFlowが、20ポイントほどPyTorchを上回っている。なお、「TensorFlowはディープラーニング目的でKerasと組み合わせて顕著に使用されている」とレポート記事で説明されている。

• TensorFlow（2019年→2020年）： 約46.5％ → 50.5％ (＋4ポイント)
• PyTorch（2019年→2020年）： 約26％ → 30.9％ (＋5ポイント)

　上記の2019年の数値は筆者による目算である。それぞれ、4～5ポイント上昇しており、Kaggleでのディープラーニング活用が増えてきていることがうかがえる。誤差程度ではあるものの、PyTorchはTensorFlowよりも1ポイント伸びが大きかった。

　以上の結果から、冒頭で示したように、実用面でのTensorFlowの強さがあらためて確認できた。

総括

　以上、3つの比較グラフを示した。これらを見て、読者の皆さんはどのように感じただろうか。最後に筆者なりのコメントを載せておこう。

　2020年はコロナ禍の影響もあり、2019年の勢いが両フレームワークで鈍化したという面があるかもしれない。

　2019年時点では、TensorFlowはKerasを標準API化することで欠点である複雑さ／難しさを解消し、さらにKerasのカスタマイズ機能性を高めてPyTorchの柔軟性に対抗しようとした。一方でPyTorchはPyTorch Mobile（モバイルデバイス向け）などを投入することで欠点である運用面を強化しようとした。その結果、どちらも特色による優位性は減っていき、どちらを使ってもよいような状況になるのではないかと、筆者個人では予測していた。しかしふたを開けてみると、2020年はむしろお互いの特色をより強化したような結果になった気がしている。

　どちらのフレームワークも、最初に付いた強烈な印象を払拭（ふっしょく）するのは難しいようである。2021年も、それぞれの特色に引っ張られて、研究分野はPyTorch、実用面はTensorFlowが強いという状況はあまり変わりそうにない（と現時点で筆者は考えている）。

　またフレームワーク利用者の感情的な反応も筆者としては気になっている。筆者が観測している範囲では、理由は詳しくは知らないが、日本でも英語圏でもKerasの使い勝手や価値は認めつつも「TensorFlowが嫌い」「TensorFlow、無くなれ」とバッシングする人が今でも少なからずいる（※2018年ごろからあった）。逆にPyTorchをバッシングするパターンは見た記憶がない。そういった声も何かしらフレームワーク利用率に影響しているかもしれない。

　TensorFlowはかつてAPIの変更が目まぐるしく、バージョン1から2で大きく変化したことで過去のコード資産を最新バージョンで使い回しづらいことが特に批判されやすい点だろう。2021年、TensorFlowはそういった負の評判をなくせるよう、どれだけバージョン2環境を安定化させつつ、バージョン1で築いてきたエコシステムを再度充実させられるかが重要だろう。それなしでは、PyTorchに運用面でもじりじりと追い上げられてくる可能性がある（と現時点で筆者は考えている）。

　「PyTorch vs. TensorFlow、ディープラーニングフレームワークはどっちを使うべきか」は、常にどちらかを一択するような決定的な状況ではないので、ケース・バイ・ケースで使い分けるしかないだろう。研究分野ならPyTorch一択なのは変わらない。実用面を考えるならTensorFlow Lite（モバイルデバイス／エッジデバイス向け）やTensorFlow.js（Webアプリケーション向け）があるTensorFlowの方が便利ではないだろうか。その辺りが使い分けの判断基準になるだろう。将来性に関しては、去年の勢いに比べると、PyTorchもやや頭打ちな印象を筆者は持っているが、TensorFlowよりはまだ「高い」と言えるのではないかと考えている。あくまで筆者個人の意見なので、本記事にツイートやブックマークなどがあればそれらの意見も参考にしてみてほしい。

おまけ：開発環境の人気ランキング

　最後におまけとして、前掲のKaggle参加者向けアンケート結果レポートから、筆者が特に面白いと感じた「開発環境／IDE（統合開発環境）の利用率」を引用しておきたい。

図4　人気開発環境の比較： 開発環境／IDE（統合開発環境）の利用率（対象：Kaggle参加者）
引用元：『State of Data Science and Machine Learning 2020』

　データサイエンス／機械学習分野では、JupyterLabというJupyterノートブック環境が圧倒的な人気（74.1％）である。

　筆者もJupyterノートブック環境を常用しているが、それ以外では、ターミナル（WindowsだとPowerShell）やVisual Studio Codeを愛用しており、Pythonインタラクティブシェルやコマンド実行もVisual Studio Code内のターミナルですることも多い。そんなVisual Studio Code（33.2％）とほぼ同レベルでPyCharm（31.9％）の利用率も高い点が筆者は気になった。PyCharmのようなIDEよりも、Visual Studio Codeの方がテキストエディター感覚で素早く扱えるので便利だと筆者は感じているが、必要な機能をまとめて提供してくれるPyCharmも（特にデータサイエンス／機械学習分野では）人気である。

　Kaggle参加者がどのような開発環境を愛用しているかは、機械学習の初心者にも参考になるだろう。本稿で紹介したもの以外にもKaggle参加者が利用するプロダクトやサービスに関する興味深いグラフが多数あるので、興味がある方はぜひ引用元の『State of Data Science and Machine Learning 2020』からPDFファイルをダウンロードして内容を参考にしてみてほしい。

「AI・機械学習のツール＆ライブラリ」

邵ｺ阮呻ｿｽ鬨ｾ�｣髴亥ｳｨ�堤ｸｲ遒�€�｣髴郁歓�ｨ蛟�ｽｺ荵昴＞郢晢ｽｩ郢晢ｽｼ郢晏現ﾂ€髦ｪ竊馴€具ｽｻ鬪ｭ�ｲ邵ｺ蜷ｶ�� New