asyncio なんもわからんから オライリー買って抜粋和訳してみた part 2 ~ asyncio の塔からコルーチン ~

tl;dr asyncio なんもわからんからこれを買って、私にとって重要そうな場所のみを抜粋和訳してみたよ! Using Asyncio in Python: Understanding Python's Asynchronous Programming Features作者:Hattingh, Caleb発売日: 2020/02/18メディア: ペーパーバッ…

asyncio なんもわからんから オライリー買って抜粋和訳してみた part 1 ~序章から Quickstart ~

tl;dr asyncio なんもわからんからこれを買って、私にとって重要そうな場所のみを抜粋和訳してみたよ! Using Asyncio in Python: Understanding Python's Asynchronous Programming Features作者:Hattingh, Caleb発売日: 2020/02/18メディア: ペーパーバッ…

「テキスト解析 AI サービス Amazon Comprehend で本を読まずに読書感想文に挑戦してみる」で書けなかったこと

tl;dr 記事書いたけど諸事情で割愛した文章だよ! tl;dr 書けなかった内容 後日談 書けなかった内容 会社でブログを書く、という初体験をしました。 aws.amazon.com 実はここには、諸事情があって書けなかった内容があって、 現代文の先生に見せてボコボコに…

Amazon Transcribe のジョブをバルスする魔法の呪文

Amazon Transcribe はジョブ名が一意でないといけないのだが、 同じジョブ名を使いまわしたいことが多いので、 全消去を雑にやることが多いのに、よく忘れてググるので備忘的に。 import boto3 client = boto3.client('transcribe') while True: job_list = …

木構造の幅優先探索・深さ優先探索コピペ用

tl;dr AtCoderで木構造の幅優先探索、深さ優先探索が出た場合のコピペ用ソースコードを記す。 tl;dr 解けなかった問題 幅優先探索 木 幅優先探索関数 深さ優先探索 深さ優先探索関数 解けなかった問題 これ atcoder.jp 幅優先探索+色探索を実装していたらTL…

組み合わせ数(nCr)の答えにmodを用いる際の関数のコピペ用

tl;dr atcoder.jp この問題で、nCrで10**9+7で割ったあまりを、求める部分で、 nCrの関数をこれにしたらうまく回ったよ、って話。 def nCr(n, r, MOD): if n < r: return 0 if n-r < r: r = n-r comb = 1 for x in range(n-r+1, n+1): comb = (comb * x) % M…

train_xを減らしてmnistでval_accを0.02%伸ばす方法

TL;DR trainデータで間違えるところだけを学習するとちょっと0.02%伸びたよ TL;DR やったこと まず普通にモデル作成 データの取捨選択 やったこと mnistでモデルを作っていると、 学習率を落としても、数値が上がりそうで上がらず振幅して悲しいことが多いと…

今更ながらDropoutを検証してみる~その2~

TL;DR dropoutを入れてmnistで99.66%を達成した TL;DR dropoutの本気を見た modelというかソース 結果 結論 dropoutの本気を見た 前回の記事でdropoutは安定しただけ、と書いたが、 もうちょい試すと99.66%を達成したのでこちらにて。 modelというかソース …

今更ながらDropoutを検証してみる

TL;DR; dropoutで適切なパラメータを振ると学習が安定するよ。 val_accの最大値は更新しませんでした。 TL;DR; Dropoutの効果は本当にあるのか 検証モデル 結果 検証2 結果2 検証3 結果3 Dropoutの効果は本当にあるのか 今までいろんなモデル(つっても画像の…

ReLUファミリー活性化関数を検証してみる(ReLU,leakyReLU,PReLU)

TL;DR ReLUファミリー最強の活性化関数は今の所PReLU。 ただしRReLUは未検証。 TL;DR mnistでモデルのみで99.5%を超えたい 結果 まとめ mnistでモデルのみで99.5%を超えたい How to score 97%, 98%, 99%, and 100% | Kaggle 上記によると 99.5%: If you desi…

overpassを使ってサンフランシスコの緯度経度半径1km以内にバーガーキングがあるかを探す

どうしようもなくバーガーキングを食べたくなったあなたへ。 サンフランシスコにバーガーキングを目当てに旅行に行く人はなかなか居ないとは思いますが、 そんな人向けに。 実装 結果 解説 実装 import overpass import urllib # proxy設定する人 ## proxies…

pythonのheapqが気に入らないので自分で実装しなおす(優先度付きキュー)

優先度付きキュー pythonの優先度付きキュー 実装 使い方 処理速度 今回作ったやつ heapq 優先度付きキュー って何? って方はこちらをご参照。 ufcpp.net こちらの本でお勉強もよろし(わかりやすかった) アルゴリズム図鑑 絵で見てわかる26のアルゴリズム…

mnistをDataRobotに解かせてみる

DataRobotってどうなのよ データ準備 結果 考察 間違えた例 4を6と間違えた例 7を2と間違えた例 最後に DataRobotってどうなのよ DataRobotを触れる機械があったので触ってみた。 画像は扱えない、とのことだったけれども、 画像を画像として扱うからであっ…

移動の軌跡をpythonを用いて地図に表示する&画像化する

移動したときの軌跡を表示 folium 使い方 表示するデータ 表示の仕様 一枚に2つの移動を色を変えて表示 一人に一枚の地図を用意し、それをhtmlに保存し、画像にも保存する 移動したときの軌跡を表示 今やGPSがくっついた端末を持ち運ぶことも多いので、 移動…

【幾何問題】二次元平面で2つの固定長の線の軌跡を求める

ふと思い出した 二次元平面で2つの固定長の線の軌跡 どうやるのか コード 余談 ふと思い出した DLのプログラムを書いていて、 ふと大学時代にmatlabで書いていた幾何問題を解く問題(※)に似ているな、と思い、 改めてpythonで簡単な問題を解いてみた。 ※お…

前処理18本ノック

いろいろ前処理で泣きそうになりながらやってきた証をここに記す(お墓みたいだな・・・) 前処理X本ノックとあるがこのXの数は随時増える予定。 bash 1. csvの連結 2. テキストファイルの分割 3. csvの不要列を削除 4. csvの不要行を削除 5. tsvをcsvに変換…

コンサル寄りのデータサイエンティスト(自称)によるmac環境整備

調教…!調教…! データサイエンティストならずとも、 プログラムを書く人にとってPCは神聖なるツールで、 買ったばかりのものは調教し無くてはならないかと思います。 (神聖なものは調教しないといけないという価値観) 私はvimやemacsの宗教戦争に巻き込ま…

SBI証券口座の資産残高を自動で取得する(python & selenium)〜selenium基礎編〜

資産がいくらあるのかを毎回確認するのはめんどくさい みなさん、自分の口座においくら入ってますか?? …と問われたときにパッと答えられる人はなかなかいませんし、私も5桁円以下は全く覚えてません。 というか外貨もあるので、レートとか考えなきゃいけ…

macbook air(2018)買いました〜17年ぶりのmac開封の儀でおふざけ〜

…! ズズズ…! バーンッ! このマックではありません。 いや、買ったものですが。 (美味しくいただきました。) 買ったのはマックのホットアップルパイでもなく、 ラズベリーパイでもなく、 Raspberry Pi3 Model B ボード&ケースセット 3ple Decker対応 (C…

よくわからずmodel.compile(loss='binary_crossentropy',xxx...)している方むけのcross entropy入門

私です すみません、出落ちです。 (adsbygoogle = window.adsbygoogle || []).push({ google_ad_client: "ca-pub-6404589633988620", enable_page_level_ads: true }); 私のようなコピペプログラマにとって、 他人が書いたソースコードを適当に自分用に変数…

juliaで単純パーセプトロンをライブラリを使わずに実装(を多少きれいに)

juliaで単純パーセプトロンを実装した例が僕の日本語ググり力では見つからなかったので、 こちらに多少きれいにまとめておく。 julia初心者過ぎてclassとかの作り方が不明(moduleをどうやら使うらしい)なので、 関数のみ!関数、バンザイ…!only function! n…

単純パーセプトロンの学習python vs julia

juliaで単純パーセプトロン 特にやる理由もなかったんですが、 前回単純パーセプトロンをpythonで構築したんで、その比較ついでにjuliaでも実装。 (adsbygoogle = window.adsbygoogle || []).push({ google_ad_client: "ca-pub-6404589633988620", enable_pa…

単純パーセプトロンの学習を可視化してみる

結局DLって何やってるのよ、の復習、の前段 東大松尾研のDL研修を受け、 今までのコピペプログラマから脱却し、 数式から学んで自分でDLのライブラリが書けるレベルになったぜ! …と思いいざ改めて書こうとするとキーボードが全く動かない。あるある。 (adsb…

juliaの速度を試してみる(vs python)

pythonが遅くてイライラするあなたへ pythonっていうかscript言語全般、for文おっせーよな!(湯川専務が聞いている風) ってか動的型付けなんて速度出るわけねーよな! って思ってる方はたくさんいるかと思いますし、 それを克服したjulia言語が速いってこ…

pythonからpostgresqlにsqlファイルを実行しまくる

sqlファイルを全部処理したい postgresqlにsqlを順番に実行したいとき、一々一個ずつ実行するのはだるいですよね。 まとめて実行するプログラムを書きました。 PostgreSQL徹底入門 第3版作者: 笠原辰仁,北川俊広,坂井潔,坂本昌彦,佐藤友章,石井達夫出版社/メ…

numpyでオーグメンテーションその1 flip

画像のオーグメンテーションでのnumpyを使えばflipが一行で出来るのを知らない人がいたので紹介。 a = np.zeros(5*5).reshape(1,5,5) a[0,1,1] = 1 # vertical flip a = np.append(a,a[:,::-1,:],axis=0) # horizon flip a = np.append(a,a[:,:,::-1],axis=0…

pandasでgroupby.XXX()の結果をdataframeに再投入する

SQLの集計関数結果をテーブルにつっこむ、みたいな SQLでよくこんな処理をするのではないだろうか。 create table 集計結果 as select 集計キー ,count() as カウント from 元データ group by 集計キー な感じで集計結果をテーブルにつこむ処理。 集計の中間…

raspberry pi でカメラ自動撮影&自動送信アプリを作る

子供の写真を自動で返してもらう みなさんご存知のraspberry piで遊んでみました。 今回はこのバージョンでの動作確認を行ってます。 Raspberry Pi3 Model B ボード&ケースセット 3ple Decker対応 (Clear)-Physical Computing Lab出版社/メーカー: TechShar…

pythonでfrom to形式の時間を分単位で展開する

pythonで時間展開してみる こんなデータがあったとして、 from_time : 2018/3/30 20:00:05 to_time : 2018/3/30 20:05:10 こんなふうに展開したい 2018/3/30 20:00:00 2018/3/30 20:01:00 2018/3/30 20:02:00 2018/3/30 20:03:00 2018/3/30 20:04:00 2018/3/…

blog移行

こちら↓でazureでwordpressの運用をしていたけれども、 無料の容量制限にひっかかりそうなので、はてブに移行します。 kazuhitogo.azurewebsites.net やったね! <script async src="//pagead2.googlesyndication.com/pagead/js/adsbygoogle.js"></script><script> (adsbygoogle = window.adsbygoogle || []).push({ google_ad_client: "ca-pub-6404589633988…