#cudnn

[libr-tumbl-alternative]

Notes on installing CUDA, CuDNN and Tensorflow on Manjaro

An in-depth, step-by-step guide to installing CUDA, CuDNN and Tensorflow on Linux with an NVIDIA GeFORCE GTX960 graphics card. Powered by AutoBlogger.co

[negativemind]

AnacondaとTensorFlowをインストールしてVisual Studio 2015で使う

TensorFlowがWindowsに対応してから1年ほど経つ。 https://blog.negativemind.com/2016/11/30/tensorflow-for-windows/ つい最近TensorFlowのバージョン1.4.0がリリースされ、良い機会(？)なので今までの開発環境を洗い替えることにした。今までPythonは単体でインストールしてたんだけど、何かと不便だったのでAnacondaで入れることにする。 洗い替えると言っても、インストーラーをポチポチするだけなのでお手軽です。 動作環境 オイラの環境は以下。(Quadroにしなきゃよかったと最近ちょっと後悔してる…) Windows 10 Pro NVIDIA Quadro K2200 インストールするもの 今回改めてインストールするのは以下。 CUDA Toolkit 8.0 – Feb 2017 cuDNN…

View On WordPress

[negativemind]

uvでWindows11のPython環境を管理する

以前は、WindowsにPythonを公式インストーラーで直接インストールしていたけど、 https://blog.negativemind.com/2019/03/06/python-pytorch-on-windows-10-with-visual-studio-code/ 次々と公開される研究の実装を動かして遊ぼうとすると、結局Pythonバージョンやパッケージバージョンの依存関係地獄にハマるので、プロジェクトごとに仮想環境を用意して切り分けることになる。 そんな流れで、動作が高速だと流行り(？)のuvという管理ツールを使ってみようかと↓ uv Rustで書かれた非常に高速なPythonパッケージ・プロジェクトマネージャーです。 ウォームキャッシュを使用したTrioの依存関係インストール速度の比較 ハイライト 🚀 pip, pip-tools, pipx,…

View On WordPress

[negativemind]

Windows10でPyTorchをインストールしてVSCodeで使う

以前はWindows 10でディープラーニングするのに、AnacondaでPython環境を作ってTensorFlowを使ってVisual Studioでコーディングしてたけど、 https://blog.negativemind.com/2017/11/23/install-anaconda-python-and-tensorflow-on-windows-10-and-use-that-from-visual-studio-2015/ 最近はだいぶ状況が変わってきた。 Anacondaでnumpyが動かなくなったり、使いたいパッケージ(のバージョン)がcondaで入らなかったりで、そもそもAnacondaのメリットよりもデメリットで時間を取られることが増えた。(それはMinicondaでも同じ) なので、Pythonは普通に公式のインストーラーでWindowsにインストールすることにし…

View On WordPress

[negativemind]

.NETで使えるTensorFLowライクなライブラリ『NeuralNetwork.NET』

またまた.NETのニューラルネットライブラリ。MITライセンスだそうです。 NeuralNetwork.NET NeuralNetwork.NETは、レイヤーをカスタマイズ可能な計算グラフ ニューラルネットワークをシーケンシャルに実装したC#製の.NET Standard 2.0ライブラリです。 NeuralNetwork.NETは、クイックプロトタイピングで確率的勾配降下法を用いてモデルを定義・訓練するためのシンプルなAPIを提供し、ネットワークモデルやメタデータなどを保存・読み込むメソッドも含まれています。 また、NeuralNetwork.NETでは、GPUとcuDNNを活用し、より高度な機能を備えたCUDAアクセラレーション レイヤーも提供しており、ニューラルネットワークの訓練・推定時のパフォーマンスを大幅に向上させます。 (more…)

View On WordPress

[ernestyalumni]

Installation and getting things to work together: Fedora 25 Workstation (not 26), gcc 6 (not 7) for CUDA 9, CUDNN 7, not Tensorflow 1.3 (maybe Tensorflow 1.4?), not theano 1.0 (native CUDA backend no longer exists on theano =((((

Installation and getting things to work in Fedora 25 Linux, CUDA 9, CUDNN 7, no Tensorflow 1.3

I was on Fedora 23 Workstation and then beginning of last month, I decided to upgrade.  Fedora Linux’s upgrade cycle is “particular” (every half year or so, no LTS (long-term support) like Ubuntu Linux, it’s an entirely new kernel so for a “clean install” so that you’re not having an old version laying around, you’ll have to remove entirely the previous version (and your files, so I backed up…

View On WordPress

[giamuhammad]

Installing OpenCV 3.2 with Python including CUDA SDK in Ubuntu 16.04

Bismillah, Assalamu’alaikum, peace be with you Readers Do you know OpenCV Library? OpenCV (Open Source Computer Vision Library) is released under a BSD license and hence it’s free for both academic and commercial use. It has C++, C, Python and Java interfaces and supports Windows, Linux, Mac OS, iOS and Android. OpenCV was designed for computational efficiency and with a strong focus on real-time…

View On WordPress

[sage-t]

Caffeのvisual studioビルド

Caffeのvisual studioビルド

Linux前提のニューラルネットワーク用ライブラリcaffeですが、Windowsでも需要があります。 ですがソースコードの構造も、依存ライブラリもlinuxに特化している感じ。

BVLC/caffeのgithubを見ていると、windowsブランチを見つけました。

ちょっとやってみます。 環境はWindows10、Visual studio 2015 community, CUDA 7.5。 依存ライブラリは何も用意しなくてよいかと思います。

ソースコードの準備

CaffeのWindowsブランチを、zipで落としてきたり、cloneしてcheckoutしたりします。 https://github.com/BVLC/caffe/tree/windows

windowsフォルダの中にCommonSettings.props.exampleがあるので、コピーして編集。 * pythonを有効にして、pythonのパスを設定。 * CuDnnPathにcudnnへのパスを設定。25行目にあります。10行目以下にCuDnnPathが使われている行があるので、それを見たらどこまで書けばいいかがわかるかと思います。

ソリューションファイルのwindows/Caffe.slnを立ち上げます。 家ではVS2015 communityなので、slnのバージョンアップが起こります。

libcaffe.vcprojが読み込みに失敗していて、メッセージを見るとCUDA 7.5.propsが見つからないとか言われる人もいるかもしれません。

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v7.5\extras\visual_studio_integration\MSBuildExtensions から C:\Program Files (x86)\MSBuild\Microsoft.Cpp\v4.0\V140\BuildCustomizations へdll以外のファイルをコピーすればいいです。

Visual Studioが立ち上がれば、ソリューションCaffeに

caffe

compute_image_mean

convert_imageset

extract_features

libcaffe

matcaffe

pycaffe

test_all

の８つのプロジェクトがあると思います。

VSビルド

libcafe -> caffe -> pycaffe -> test_allの順でビルドしていきます。

全部のプロジェクトが読み込めたら、Releaseにしてlibcaffeをビルド。

まずNuGetを有効にしろ、みたいなエラーが出た。具体的にはNuGetで構築したはずのパッケージが指定されたpath上に無いという。

いろいろ試してみた結果うまくいったのが、windowsフォルダにあるpackagesフォルダを、caffeパッケージをクローンしたディレクトリにコピー、NugetPackagesというフォルダ名にする。 おそらくNuGetが復元したフォルダがNugetPackagesという名前で、Caffe.slnの２つ上の階層にあるということになっているんだと思います。 なのにNuGetが用意するのはpackagesというフォルダ名でCaffe.slnと同じ階層。

たぶんどこかのプロジェクトファイルのパスの設定がおかしいんだと思うけど、どこ直していいかわからん。

packagesフォルダはこれはこれで残していないとnugetが終わっていないと思われてまたダウンロードを始めます。 これで700MB位のフォルダがまた増えた。

追記 別のシステム（窓7、VS2013）では最初からNugetPackagesを作ってくれて、このような問題は起こりませんでした。

というわけで、こういうエラーが起こったらフォルダを持って行って対処するということでいいかなと。たぶんVS2015が悪い。

とりあえずビルドができるように。

なお自分はここではCommonSettings.props中のcudnnのパス設定を忘れていたためか、cudnn.hが見つからないというエラーが出ました。 この場合はプロジェクトのプロパティで追加のインクルードディレクトリにcudnn.hがあるフォルダを追加すればいいかと。

しかしある程度コンパイルが進んだところでエラー。

C2220 警告をエラーとして扱いました。'object' ファイルは生成されません。 (..\..\src\caffe\layers\tile_layer.cpp) libcaffe C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v7.5\include\cuda_runtime.h

なぜかlibcaffeのプロパティで、警告をエラーとして扱うオプションWXが「はい」になっていたので、いいえに変更。

ようやくlibcaffeが完成。

続いて、caffeのビルド。

まずはWXオプションを無効化。

普通にやってたら_MSC_VERの不一致（1800と1900）のリンカーエラーが出ます。 よく見ると、インポートで手間取ったlibcaffeがVisual Studio 2013ツールセットでビルドされていました。 なのでそれに応じるために、caffeもプロジェクトのプロパティでツールセットをVS2013(v120)にします。

（追記）2016/3/28現在、CUDA対応を考えるとv120にならざる負えない。

pycaffeのビルド。

WXオプションの無効化。ツールセットの変更。

うまくいった。

これで必要なものはすべてビルドできました。

実行

実際に動くかやってみよう。 ということでtest_allのビルド。

WXオプションの無効化。ツールセットはもとからv120。

caffe-windows\Build\x64\Releaseにtest_all.exeができているので、コマンドプロンプトから実行。

dllファイルは一通りこのフォルダに放り込まれているので、とくにパスを通す必要はないようです。 ですがそのまま動かすと、途中のテストでexampleがないとかでエラーが出るので、caffe/exampleとか、caffe/src/caffe/test/test_dataを コピーして、Release/exampleとかRelease/src/caffe/test/test_dataにおきましょう。

最後にまとめが出ます。

[----------] Global test environment tear-down [==========] 1987 tests from 269 test cases ran. (1943736 ms total) [ PASSED ] 1983 tests. [ FAILED ] 4 tests, listed below: [ FAILED ] BenchmarkTest/2.TestTimerMilliSeconds, where TypeParam = struct caffe::GPUDevice<float> [ FAILED ] BenchmarkTest/2.TestTimerSeconds, where TypeParam = struct caffe::GPUDevice<float> [ FAILED ] BenchmarkTest/3.TestTimerMilliSeconds, where TypeParam = struct caffe::GPUDevice<double> [ FAILED ] BenchmarkTest/3.TestTimerSeconds, where TypeParam = struct caffe::GPUDevice<double> 4 FAILED TESTS

まあ時間計測系の結果が変な感じですね。たとえば１つ見てみると

..\..\src\caffe\test\test_benchmark.cpp(68): error: Expected: (timer.MilliSeconds()) >= (300 - kMillisecondsThreshold), actual: 0.001696 vs 270

まあいっか。

pycaffeのほうは、何かimport caffeしたときにRuntimeWarning: to-Python converter for class boost::shared_ptr<class caffe::Net<float> > already registeredとか出るくらいで、まあエラーは出ないのでいいかな。

インストール用のプロジェクトは無いので、適宜自分でコピーする感じのようですね。 pythonはREADME.mdによると

copy folder <caffe_root>\Build\x64\Release\pycaffe\caffe under <python_root>\lib\site-packages.

とのこと。

その他

compute_image_mean

convert_imageset

extract_features

あたりのプロジェクトは、チュートリアルの際に必要になります。

また、たぶんですけどCifar10、MNISTみたいな画像セットを自分で用意した際も同様に利用できる気がするので、あってもよいと思います。

ついでにビルドして、どこかインストールしたいところに*.exeとか*.dllをコピーしたらインストール終わり。

まとめ

こんな感じで、Caffeのvisual studioのビルドは数時間あれば（試行錯誤がなければ１時間で）終わります。

NuGetがネットワークの設定上、もしくは宗教上の理由で使えない

すでにあるライブラリを使いたい

特殊な設定でビルドしたライブラリを使う必要がある

ライブラリを依存関係からビルドすることに至上の喜びを感じる

そこにCMakeLists.txtがあるから

といった理由で依存関係のライブラリをビルドし、CMakeなどで設定していく手段を取らざるを得ない人もいるかもしれません。 余裕があれば、今度その方向でもやってみようと思います。