JupyterNotebookで実行しているPythonプログラムにGPUが割り当てられない

GPUが割り当てられない問題 ipythonだったら os.environ["CUDA_VISIBLE_DEVICES"]="0" と書いておけば割り当てることが出来たのに…。 実際は以下のように割り当てられていない。 $ nvidia-smi Sun Aug 26 18:20:39 2018 +----------------------------------…

wgetでCannot write to 'filename' (Success). → mountしたらlost+found

Dropboxからファイルをダウンロード dl=0ではなくdl=1にするとwgetで持ってこれるという知見を得た。 $ wget "https://www.dropbox.com/sh/hogehoge/fugafuga?dl=1" -O pose.zip : : HTTP request sent, awaiting response... 200 OK Length: unspecified [a…

scpコマンドでサーバのファイルをコピーする

scpの使い方 scp [オプション]転送元パス 転送先パス 尚、[転送元パス]と[転送先パス]は、ログイン名@ホスト名ってな感じで。 $ scp -rP 9999 /home/keras-deeplab-v3-plus username@12.34.56.789:/home/keras-deeplab-v3-plus コマンド 内容 r 再帰的にコピ…

sshfsで「read: Connection reset by peer」

sshfsコマンドでマウント 【エラー】read: Connection reset by peer # username確認 $ whoami # IPアドレス確認 $ ip route get 8.8.8.8 | awk '{print $NF; exit}' sshfsでマウントしようとする。 $ sshfs <username>@<IP address>:/home/ubuntu/Code/keras-deeplab-v3-plus /hos</ip></username>…

keras-deeplab-v3-plusで人だけとってみる

github.com Semantic Segmentationで人をとってきたいのでこのアーキテクチャを使って人と背景を分ける。 準備 # 仮想環境の準備 $ conda create -n keras-deeplab-v3-plus $ source activate keras-deeplab-v3-plus # モジュールインストール $ conda insta…

シェルでは使えているPythonモジュールをJupyterNotebookで実行すると「ImportError: No module named module_name」が出てくる

問題点 はじめてPytorchを使った際に以下のようなエラーが。 ImportError: No module named torch pip installする $ pip install torch Requirement already satisfied: torch in /home/ubuntu/miniconda3/lib/python3.6/site-packages (0.4.1) 既にインス…

実行したファイルの残り時間をターミナルに表示する

機械学習のプログラムを書き始めると、大きいファイルを扱う機会が増えた。 そこでターミナルに残り時間を表示させたいと思ったので、 h5ファイルを作成する関数を例にしてメモっておく。 def create_h5(h5_fpath, image_fpaths, better_model, num): start_…

JupyterNotebookでファイルがリロードされない

リロードさせる方法 1. importlib.reload import load_weights import model importlib.reload(load_weights) importlib.reload(model) 2. autoreload 2 以下をJupyterNotebookに貼り付ける。 % load_ext autoreload # 外部のモジュールautoreloadをロード %…

Kerasで「AttributeError: 'NoneType' object has no attribute HOGEHOGE」

エラー Kerasで重みを読み込む時に以下のエラー。 model_50 = model_50.load_weights('/host/weights/weights.013-7.248.hdf5') # AttributeError: 'NoneType' object has no attribute 'load_weights' NoneType。。。 print(type(model_50)) # <class 'NoneType'> 解決策 代入</class>…

Kerasで「ImportError: Could not import PIL.Image. The use of `array_to_img` requires PIL.」とPILのエラーが出る

エラー ローカルではこのエラー見たことなかったんだけど、サーバ側で実行したらPILに関するエラーが。 Kerasで以下のようにimportしてるのにだめなのか…。 from keras.preprocessing.image import ( ImageDataGenerator, load_img, img_to_array, array_to_…

AWSインスタンスをもらった時にやったこと

AWSインスタンスを割り当てられて、諸々の設定はやってあるので、それ以降自分用にやったことをメモっておく。 miniconda Miniconda — Conda 上のサイトからインストール。 $ wget https://repo.continuum.io/miniconda/Miniconda3-latest-Linux-x86_64.sh b…

【Keras】超個人的な遭遇したエラーと解決法メモ

結論 どこで何を出力し、どんな役割を担っているのか一つずつ理解しながら進める。 TnsorBoardにグラフが描画されない バッチサイズは適当か確認する。 バッチサイズが64なのに、テスト段階なので、validationのデータ数を10にしていて検証されない→グラフが…

TensorBoardを表示させた際に「locale.Error: unsupported locale setting」

問題 locale.Error: unsupported locale setting 解決策 export LC_ALL="en_US.UTF-8" export LC_CTYPE="en_US.UTF-8" sudo dpkg-reconfigure locales sudoの後にピンク色の画面が立ち上がる。 一番上のAllを選択。 [ ]の中に入っているアイコンが赤色の四角…

KerasでGPUを使う際に「could not create cudnn handle: CUDNN_STATUS_INTERNAL_ERROR Segmentation fault (core dumped)」が発生

GPUが割り当てられない import cv2 import numpy as np import glob import os : import keras.callbacks import keras.backend.tensorflow_backend as KTF import tensorflow as tf old_session = KTF.get_session() session = tf.Session('') KTF.set_sess…

コミットメッセージまとめofまとめ

コミットメッセージ、普段からきちんと書きたいけど、英語での表現を忘れがちなので自分用にリンクメモ。 Gitのコミットメッセージの書き方 - Qiita 【今日からできる】コミットメッセージに 「プレフィックス」 をつけるだけで、開発効率が上がった話 - Qii…

実例を元にREADMEの書き方を学ぶ

参考 リポジトリ faressoft / terminalizer Webサイト わかりやすいREADME.mdを書く - SOTA わかりやすい README 駆動開発 - Qiita

ディレクトリ内、またはサブディレクトリ毎のファイルの数を取得する方法

動画から画像を作成したり、水増しを行った時に各ディレクトリのファイルの数を一気に取得出来るので、特に2つ目のはめっちゃ便利。 ディレクトリ内のファイル数を取得 # 方法1 $ ls -U1 | wc -l # 方法2(1より遅い) $ find . -type f | wc -l lsのオプショ…

UbuntuサーバでOpenCVで動画ファイルが扱えない→sk-videoを使ってみるけどエラーが出る

動画ファイルがUbuntuサーバで扱えない サーバ内でプログラムを動かそうとした際に以下のようなエラーと遭遇。 username@ubuntu:~/Projects/keras-datagenerator$ python datagen.py /home/username/miniconda3/lib/python3.6/site-packages/h5py/__init__.p…

【自分用メモ】AtomをMarkdownエディタにするときに役立ったサイト

ウインドウを分割したプレビューはctrl + shift + M。 PC買い替えたときにまだAtom使ってたらここに書いてあるプラグインをインストールしておけばOK。 qiita.com www.kotalog.net

【自分用メモ】gitを操作するときに参考になったサイトまとめ

git

システムそのもの 配管を通ってGitを理解してみる - Tbpgr Blog commitメッセージ修正 Gitのコミットメッセージを後から変更する方法をわかりやすく書いてみた | 株式会社グランフェアズ git commit --amendでコミットメッセージを修正 commitとissueの紐づ…

【自分用メモ】OpenCVで輪郭を切り抜くときに参考にしたサイト一覧

輪郭抽出 配列操作 — opencv 2.2 documentation Canny法によるエッジ検出 — OpenCV-Python Tutorials 1 documentation 画像の勾配 — OpenCV-Python Tutorials 1 documentation モルフォロジー変換 — OpenCV-Python Tutorials 1 documentation ー 輪郭: 初めの…

gitのエイリアスを設定する

git

適用レベル 設定レベルが大きい方が優先度が高い。 オプション 範囲 設定レベル 無し リポジトリ固有 3 --global Gitユーザー固有 2 --system マシン全体 1 「git」コマンド自体を省略する 「git」というコマンドを「g」にする。 $ alias g='git' エイリアス…

Pythonのloggingを学習するときに参考にしたサイト3つ

メモ python.keicode.com Pythonでロギングを学ぼう - Qiita Python の logging 力を高める | CUBE SUGAR STORAGE

sshポートフォワーディング

sshポートフォワーディング サーバ上の資源をjupyterでいじる。 ## SSHポートフォワーディング $ ssh hoge_server -L 8080:localhost:8080 # 入った後にポート指定をしてjupyter立ち上げ $ jupyter notebook --port 8080 [I 16:20:42.864 NotebookApp] Servi…

tmuxの使い方と設定まとめ

インストール セッションを切らさない + 画面分割のためにtmuxを入れる。 zshの場合は設定ファイルに追記する必要があったのでメモっておく。 $ brew install tmux # 設定ファイルの作成・編集 $ touch .tmux.conf $ vi .tmux.conf # zshを読み込む set-opti…

Macのシェルをzsh+Preztoに変更

Mac

シェルについて シェルとは - シェル 【Mac】ログインシェルの変更方法について (chsh, chpass) - TASK NOTES いざ設定 zshをインストール $ cat /etc/shells # List of acceptable shells for chpass(1). # Ftpd will not allow users to connect who are n…

Macを買って設定・インストールしたもの

Mac

App Chrome Chromeでは「Ctrl + Q」で終了しないように設定しておく。 以下のようにChromeの終了処理を別に割り振るか、「Chrome > Warn Before Quitting(⌘Q)」をオンにしておく。 【小ネタ】Google Chromeを⌘Qで終了しなくする(⌘W連打中に悲しくならないた…

condaで仮想環境を構築

condaのインストール kuro-rera.hatenablog.com 上を参考にインストールしてパスを通すだけ $ export PATH=/home/ユーザ名/anaconda3/bin:$PATH condaで仮想環境構築 構築 $ conda create -n <env_name> <install module> ex) conda create -n env_name python=2.7 $ source activate </install></env_name>…

【論文】Visual Discovery at Piterest

どんな論文? この論文ではPinterestで使用されている,画像検索・レコメンデーションシステムについてその概要を述べるものである. 具体的には以下のサービスについて説明する. Related Pins(2014) Pinterest Flashlight(2016) Pinterest Lens(2017) また…

レジストリをいじらずに3ステップでWindowsのCtrlとCapslockを入れ替える

レジストリいじらなくても簡単スリーステップ。 1. ダウンロード 以下のサイトからソフトをダウンロード。 technet.microsoft.com 2. コマンド実行 ダウンロードした先で、コマンドを実行して有効にする。 $ ctrl2cap /install # 有効化 $ ctrl2cap /uninsta…