PDF

1
コンピューティングの新時代
コンピューティングの進化が産業と社会の変化をもたらす
各コンピューティングの時代は革新的な新しいコンピューティングモデルによってもたらされた
1995年頃:PCインターネット時代はウィンテルPC、ネットスケープ、ヤフーによって始まり、10億人
のPCユーザーを産んだ
2006年頃:モバイル時代はiPhoneとAmazonウェブサービスによって始まり、25億人のモバイルユ
ーザーを産んだ
今日:GPUディープラーニングによって、自身で学ぶソフトや機械が可能となる新しいコンピューテ
ィングが始まった。そして数兆のインテリジェントデバイスがあるAIの時代の始まりだ
2
AI革命の舞台
研究者たちはディープラーニングを20年以上研究したが、学習のためのビッグデータと巨大な計
算パワーが足りなかった
研究者たちが NVIDIA CUDA GPU を試し始めた
2012年、Alex Krizhevskyが100万のサンプルから画像認識を自動的に行うソフトウェアを開発し、
全てのエキスパートを破って ImageNet で優勝した
スタンフォードのAndrew NgとNVIDIAリサーチは分散GPUを使って非常に大きなモデルで学習す
る方法を発見した
Googleとマイクロソフトは画像認識のためのGPUディープラーニングを商用化し、人間を超える精
度を達成した
XD Huang率いるマイクロソフトリサーチは最近音声認識において6.3%エラー率という大きなマイ
ルストーンに達した
視覚と聴覚は学習とインテリジェンスの基盤であり、GPUディープラーニングは機械が学習し、認
識し、意味付けと計画するための基盤を提供する。これによってAI革命の舞台は整った
3
NVIDIA 「AIコンピューティングカンパニー」
エヌビディアの発明したGPUコンピューティングは現代のコンピューティングで最もエキサイティン
グな進化の中心だ
GPUは仮想世界をシミュレートし、人間の想像力を計算する
GPUはAIにパワーを与え、人間の認識を計算する
我々はインテリジェンスを加速する エヌビディアは「AIコンピューティングカンパニー」として知られ
るようになった
4
もはや SF ではない: VR, AR, AI の時代が到来
コンピュータとどう向き合うのかという点において、ブレークスルーのための舞台は整った
VR と AR は驚くべき新しい方法をもたらす
デザイン、ゲーム、コミュニケーションは決して同じではない
我々が行う全てのことは AI によってアシストされ、加速される
GPU コンピューティングこそこれら新しい可能性の中心である
5
GTC - GPU ディープラーニング開発者が 25 倍に増加
エヌビディアはコンピューティングプラットフォームの会社であり、開発者は我々の生命線で、GTC
は最も重要なイベントだ
この 2 年で参加者は 4 倍になった
NVIDIA テクノロジーの開発者は3倍に増え、40 万人になった
ディープラーニング開発の標準である、NVIDIA GPU を利用する AI 開発者は25倍になった
6
7
8
数千もの小さなプロセッサが大きな問題を並列に実行し、それはシナプスに接続されたニューロン
が並列に処理するのと似ている
9
GPU ディープラーニングは新しいコンピューティングモデル
ディープラーニングはソフトウェアの開発方法と、どこで、どのようにそれが実行されるかも変える
ディープラーニングはデータから学ぶソフトウェアだ
ディープラーニングはサーバー、データセンター、インテリジェントデバイスのアーキテクチャとデ
ザインを本質的に変えるだろう
コンピュータは自ら学び、意味付け、ますます自律的になるだろう
10
AI – 究極のコンピューティングチャレンジ
ディープニューラルネットワークは複雑なパターンを認識する能力に秀でる
しかし、大きなモデルをトレーニングするには、膨大な計算が必要だ
ディープラーニングの精度はより多くのデータ、より大きなモデル、そして膨大な計算によって向上
する
マイクロソフトのResNetはAlexNetより16倍も複雑に
バイドゥのDeepSpeechは1年でモデルサイズが4倍、学習データは2倍、そして計算は10倍に増加
した
11
Pascal — ディープラーニングに最適化された GPU
我々は世界中のAI研究者と協力し、この5年間で多くを学んだ
GPU はディープラーニングアルゴリズムの処理に適している
最新の Pascal は、ディープラーニング用に設計された最初の GPU だ
我々は GPU ディープラーニング スーパーコンピューター、DGX-1を開発した
素晴らしい成果 - 学習速度は 4年 で 65 倍に
すべての主要なディープラーニングフレームワークをサポート
12
GPU ディープラーニングは新しいコンピューティングモデル - データセンターでの推論
何億人ものユーザーや数十億のデバイスから発生する膨大なリクエストがAI を必要とするだろう
クラウドサービスの負荷は膨大なものとなる
GPU はレスポンスの高速化とデータセンターのスループット最大化を実現できる
13
TESLA P4 & P40
ハイパースケールデータセンターのスループットを高めるように設計された
2 つの新しい Pascal 推論処理アクセラレータ
P40 はスループットを最大化するように設計され、CPUの 40 倍高速な推論を実現
P4 は 1U の OCP サーバー用に設計されわずか 50W で動作
14
TensorRT: 性能最適化推論処理エンジン
ソフトウェアはNVIDIAディープラーニングプラットフォームの心臓部。学習処理用にはCUDA や
cuDNN を提供
推論処理用に、最適化推論処理エンジン TensorRT を発表
TensorRT はレイヤー内及びレイヤー間での処理統合、重要でない重みの切り捨て、FP16 から
INT8 へ型変換といった最適化を行い、正確さを犠牲にせず性能を改善
15
16
エヌビディア AI コンピューティング エコシステム
NVIDIA GPUディープラーニングのグローバルエコシステムは急速に拡大中
GPUディープラーニングのめざましい成果を契機に、検索、認識、レコメンデーション、翻訳等のイ
ンターネットサービスへのAI適用で世界的な競争が発生
どのような会社もクラウドサービスプロバイダを通じてNVIDIAのGPUディープラーニングプラットフ
ォームをすぐに使うことができる
世界最大のテクノロジ企業もNVIDIA GPUを利用
GPU ディープラーニングという強力な新技術は、ヘルスケア、Fintech、自動車、Webサービス等、
世界中1,500のスタートアップを刺激する
17
日本の AI 開発
PFNはIoTアプリケーション向けのAIソリューションを開発 - 彼らは DL フレームワーク Chainer の
開発者でもある
楽天はオンラインフリーマーケットで自動商品分類にディープラーニングを利用
みずほ証券は株式取引の予測精度向上にディープラーニングを利用
ABEJAは店舗顧客分析ディープラーニングを利用
18
AIが何十億台ものインテリジェントマシーンの原動力に
AIを搭載したIoTインテリジェントマシーンは何十億台にも上ると予想される
クラウドにつながるAIカメラは玄関にいるのが誰かを認識する
AI マイクはクラウドに接続され、自然な対話を実現する
AI ドローンは人の近づけない場所を飛行できる
AI 配送ロボットは的確なナビゲーションを提供する
19
JETSON TX1: 組込みAIスーパーコンピューター
エヌビディアはインテリジェントな IoT 機器のために小型で電源効率の良いAI スーパーコンピュー
ターを開発
クレジットカードサイズのモジュール
10Wで1 TF FP16の性能
同じCUDA, cuDNN, TensorRTが使用可能 – ワン・エヌビディア・ディープラーニングアーキテクチ
ャ
20
エヌビディアAIによるインテリジェントマシーン
GPU コンピューティングはこのインテリジェントマシーンの新しい世界を切り開くための理想的なア
ーキテクチャ
この GTC 会場では、AI で人々の生活に恩恵を与える日本で開発された幅広いロボットやドロー
ン、そしてアシスタントロボットを御覧頂くことができる
21
ファナック、エヌビディアのプラットフォームで未来の工場づくりへ
ロボットはグローバルな製造にきわめて重要で、200 万台近くの産業ロボットが世界中で稼動
GPU ディープラーニングはAIロボティクス・マニュファクチャリング実現に不可欠
AI を搭載することで、ロボットはより複雑な動作を行い、人の近くで安全に作業し、はるかに多くの
作業領域をこなし、ジェットエンジンからスマートフォンにいたるまで様々な製品を組立て、さらには
見ることや反復学習により学ぶことができる
エヌビディアは、製造業におけるロボティクスを世界的にリードする企業であるファナックと AI ロボ
ティクス・マニュファクチュアリングのビジョン実現にむけてパートナーシップを提携することを光栄
に思う
22
ファナック、エヌビディアのプラットフォームで未来の工場づくりへ
NVIDIA の AI コンピューティングプラットフォームはエンド・トゥ・エンドで活躍
ロボットのディープニューラルネットワークのブレインはエヌビディアGPUで学習
GPU を搭載したファナックの FOG 機器からは複数のロボットを駆動し、それらのロボットで同時に
学習
その各ロボットには GPU が組み込まれ、リアルタイムで AI を実行可能となる
23
24
ファナック、エヌビディアのプラットフォームで未来の工場づくりへ
NVIDIA の AI コンピューティングプラットフォームはエンド・トゥ・エンドで活躍
ロボットのディープニューラルネットワークのブレインはエヌビディアGPUで学習
GPU を搭載したファナックの FOG 機器からは複数のロボットを駆動し、それらのロボットで同時に
学習
その各ロボットには GPU が組み込まれ、リアルタイムで AI を実行可能となる
25
AIトランスポーテーション – 10兆ドルの産業
乗用車、トラック、シャトル、タクシーなどのトランスポーテーション市場は、10兆ドルの産業
自動運転は、この大きな市場に革命を起こし、利便性を増し、事故を減らし、都市計画を改善
自動運転はAIの様々な要素を必要とする – 周囲の認識、環境の状態を推論し、最適な行動計画
、継続的な学習による、広大で多様性を持つ世界を認識
そして、新たな経験に対応するために学習と改善を継続しなければならない
26
NVIDIA DRIVE PX2 – オートクルーズから完全自立運転まで、同一アーキテクチャ
自動運転は一つのソリューションということではなく、能力やソリューションの幅がある
自動運転は、単なる物体検出だけではなく、認識、推論、操作を含む、End-to-End の AI コンピュ
ーティングによる問題解決が必要
自動運転を成功させるには、AIスーパーコンピューター、高精度の AI アルゴリズム、多くのソフト
ウェアが必要
高速道路でのハンズフリーのクルージングから、目的地までの自動運転、ドライバーを必要としな
い完全自立走行シャトルまで様々な応用がある
NVIDIA の DRIVE PX2 は、スケーラブルなアーキテクチャを採用しており、Pascal を搭載したひと
つのテグラ SoC(エスオーシー)からパスカル GPU を搭載した複数のプロセッサを用いることで、
全方位の自動運転に対応することができる
27
NVIDIA DRIVE PX 2 AUTOCRUISE
最近発表されたシングルプロセッサの DRIVE PX2、オートクルーズによる高速道路の自動運転向
けに設計されている
10 ワット、パッシブ方式の冷却
28
DRIVEWORKS ALPHA 1: 自動運転車用オペレーシングシステム
自動運転車には究極のリアルタイム性と高いスループットを持つスーパーコンピューティングが必
要
我々は、自動運転車用オペレーシングシステムとして、DRIVEWORKS を開発
自動運転を行うために必要なアルゴリズム – 検出、自己位置特定、計画、行動
29
30
DRIVEWORKS ALPHA 1: 自動運転車用オペレーシングシステム
DRIVE WORKS Alpha 1、自動運転車用オペレーシングシステム、10月からアーリーパートナーに
提供され、二ヶ月毎に定期アップデート
31
バイドゥ、トムトムがセルフドライビングカー向けにNVIDIAを選択
NVIDIA DRIVE PX2 を搭載した自動運転のフリートが増加
バイドゥとトムトムは、NVIDIA と共に、”Cloud –to-car” のオープンプラットフォームを構築。クラウ
ド高精細地図、AI アルゴリズム、AI車載スーパーコンピュータなどが含まれる
32
インテリジェントマシンのための AI コンピューティング
NVIDIAは、ビジュアルコンピューティング、ハイパフォーマンスコンピューティング、人工知能(AI)の
交点にいる
AI コンピューティングは、インテリジェントマシンの新たな世界の動力となる
33
Xavier (エグゼビア) – aIスーパーコンピュータ SOC
Xavier は、ディープラーニング、コンピュータビジョン、HPC – インテリジェントマシン用技術の交点
向けに設計
70億トラジスタ- 過去に作成された最大規模のCPUと同等
8個の高性能CPUコア、512個の次世代ボルタGPUコア、新たなコンピュータビジョン・アクセラレー
タ
34
Xavier (エグゼビア) – aIスーパーコンピュータ SOC
Xavier は、ディープラーニング、コンピュータビジョン、HPC – インテリジェントマシン用技術の交点
向けに設計
70億トラジスタ- 過去に作成された最大規模のCPUと同等
8個の高性能CPUコア、512個の次世代ボルタGPUコア、新たなコンピュータビジョン・アクセラレー
タ
35
すべての産業に向けた NVIDIA AI コンピューティング
End-to-End のコンピューティングプラットフォーム: トレーニングから、インファレンス、組み込み
AI コンピューティング、CUDA、cuDNN、TensorRT を含む
ディープラーニングソフトウェア、各フレームワークの最適化
DRIVE PX2 – スケーラブルアーキテクチャで、自動運転のための AI コンピュータすべてのレンジ
に対応
ファナックとのパートナーシップ - 未来の工場を構築
Xavier は、ディープラーニング、コンピュータビジョン、HPC – インテリジェントマシン用技術の交点
向けに設計された
36
すべての人の AI
AI はもはや SF ではない
GPU ディープラーニングは AI 革命をもたらすコンピューティングモデルのブレークスルー
エヌビディアは AI コンピューティングカンパニーとして、この技術を進化させ、この技術を役立た
せるパートナーとなる
37
38