IT知識

AI

簡単!機械学習用の環境構築(Docker, GPU)

GPUが利用できる機械学習環境をDockerを使って構築していきます。導入メリットGPUの設定とかが楽(あまり細かいことを考えなくて済む)環境が壊れてもすぐに再構築できる新しいPCにもすぐに環境を構築できる環境私の環境は以下の通りです。Wi...
IT知識

Windows11+Docker+WSL2+jupyterlab 環境構築

主に以下の動画を参考にしました。【2022最新版】WIndowsにPythonの環境構築|通常のインストール方法、Dockerを使う方法も解説 - YouTubeDocker、WSL2のインストールDownload Docker Deskt...
IT知識

VSCodeでDockerを使用する方法

VSCodeのインストールDownload Visual Studio Code - Mac, Linux, Windows上記URLからVSCodeをダウンロード。exeファイルをクリックしてインストール「同意する」にして、次へ。インスト...
AI

論文紹介「FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness」

以下の内容は、基本的に元論文をDeepLで翻訳したものです。概要Self-Attentionの時間とメモリの複雑さはシーケンスの長さの2次関数であるため、長いシーケンスではTransformerは遅く、メモリを消費する。近似的なAttent...
AI

論文紹介「Meet ChatLLaMA: The First Open-Source Implementation of LLaMA Based on Reinforcement Learning from Human Feedback (RLHF)」

概要LLaMAは、Meta社が公開した大規模言語モデルで、7Bから65Bのパラメータを持つ事前学習済みモデルです。数兆個のトークンでモデルを訓練しており、公開データセットのみを使用して最先端のモデルを訓練することが可能となっています。LLa...
プログラミング

%%timeでエラー

jupyter notebookで%%timeを使ってセルの実行時間を測りたいのにエラーが出た時の解決方法を書いておきます。解決方法%%timeがセルの先頭に来ているか確認してみてください。%%timefunc()以下のようなコメントを最初...
AI

Graph Convolutional Network

こちらの記事では、GCN(Graph Convolutional Networks) の使い方について解説します。yeahafdaf
プログラミング

[python]2次元データ配列のみをテキストファイルに!

テキストファイルに書き込みをしたとき、 まで入ってしまっていました。 をとって配列の中身のみファイルにする方法を記します。解決方法np.savetxt()を使う。引数は(ファイル名, データ名, 有効数字の指定)詳しくは下のURLを参照して...
プログラミング

ufunc ‘add’ did not contain a loop with signature matching types (dtype(‘ dtype(‘
このエラーが出たときの対処法を記します。解決法astype()を使ってdtypeを揃えたら、解決しました。

プログラミング

[python] ランダムな配列の作り方

numpyのrandomと標準ライブラリのrandomの違いに注意してください。np.random.randint( a, b, 要素数)これは、要素の値がa<= N <= b の範囲になるようなランダム配列を作成できます。要素数も指定でき...