IT知識 簡単！機械学習用の環境構築(Docker, GPU)
GPUが利用できる機械学習環境をDockerを使って構築していきます。
導入
メリット
GPUの設定とかが楽（あまり細かいことを考えなくて済む）
環境が壊れてもすぐに再構築できる
新しいPCにもすぐに環境を...
IT知識 IT知識 Windows11+Docker+WSL2+jupyterlab 環境構築
主に以下の動画を参考にしました。
【2022最新版】WIndowsにPythonの環境構築｜通常のインストール方法、Dockerを使う方法も解説 - YouTube
Docker、WSL2のインストール
Down...
IT知識 VSCodeでDockerを使用する方法
VSCodeのインストール
Download Visual Studio Code - Mac, Linux, Windows
上記URLからVSCodeをダウンロード。exeファイルをクリックしてインストール
...
機械学習 論文紹介「FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness」
以下の内容は、基本的に元論文をDeepLで翻訳したものです。
概要
Self-Attentionの時間とメモリの複雑さはシーケンスの長さの2次関数であるため、長いシーケンスではTransformerは遅く、メモリを消費...
機械学習 論文紹介「Meet ChatLLaMA: The First Open-Source Implementation of LLaMA Based on Reinforcement Learning from Human Feedback (RLHF)」
概要
LLaMAは、Meta社が公開した大規模言語モデルで、7Bから65Bのパラメータを持つ事前学習済みモデルです。数兆個のトークンでモデルを訓練しており、公開データセットのみを使用して最先端のモデルを訓練することが可能となっていま...
プログラミング %%timeでエラー
jupyter notebookで%%timeを使ってセルの実行時間を測りたいのにエラーが出た時の解決方法を書いておきます。
解決方法
%%timeがセルの先頭に来ているか確認してみてください。
%%time
func(...
機械学習 Graph Convolutional Network
こちらの記事では、GCN(Graph Convolutional Networks) の使い方について解説します。yeahafdaf
プログラミング [python]2次元データ配列のみをテキストファイルに！
テキストファイルに書き込みをしたとき、 まで入ってしまっていました。 をとって配列の中身のみファイルにする方法を記します。
解決方法
np.savetxt()を使う。引数は（ファイル名, データ名, 有効数字の指定）
詳...
プログラミング ufunc ‘add’ did not contain a loop with signature matching types (dtype(‘ dtype(‘
このエラーが出たときの対処法を記します。
解決法
astype()を使ってdtypeを揃えたら、解決しました。
このエラーが出たときの対処法を記します。
解決法
astype()を使ってdtypeを揃えたら、解決しました。
プログラミング [python] ランダムな配列の作り方
numpyのrandomと標準ライブラリのrandomの違いに注意してください。
np.random.randint( a, b, 要素数)
これは、要素の値がa<= N <= b の範囲になるようなランダム配列を...