普通の並列実行は、こちらを参考にして実装できました。 qiita.com lambdaで実行するとなると若干修正しました。 import time from multiprocessing import Process, Pipe hoge_list = [1, 2, 3, 4] def wait_and_print(i, *args, **kwargs): print(f'start …

最近本を読むように心がけていますが、電車移動などのスキマ時間を使って時間を作るようにしていますが、徒歩での移動中などの時間はまだまだ有効活用できていない感がありました。 近ごろまではpodcastやvoicyを聞きながら歩いていたり、部屋の掃除をしてい…

pythonスニペット unixtime⇔datetimeの変換 import datetime # datetimeのnowをつくる now = datetime.datetime.now() # => datetime.datetime(2018, 6, 20, 12, 37, 50, 642687) # datetiemをunixtimeに変換 unixtime = int(now.strftime('%s')) # => 15294…

lambdaのpythonでdatetimeを使おうとしてコードを書いて、いざ動かしてみると、どうもちょっとおかしい。 明らかにおかしいというよりは時折おかしくなることがある。 これが逆に厄介でした。 原因は、lambdaの実行コンテナのコンテキストは再利用されること…

会社でAWS SSMを使って開発をしてたのが初めてだったのですが、罠にハマりました。 ブラウザからsshつなぐっていう感じの認識で、あまり深い理解はしていないのですが、とりあえずsshみたいに使えるもんだと思ってやってましたが、vimでハマりました。 vimで…

boto3とは？ pythonのaws-sdkです。 他の言語のaws-sdkは大体aws-sdkみたいな名前で公開されていることが多いのですが、なぜかpythonだけboto3っていう名前です。 boto3.amazonaws.com 個人的にはこのドキュメントすごい読みやすくて好きなライブラリです。 …

aws-cliを使ってローカルからファイルをアップロードしようとしたのですが、csv.gzなファイルをアップロードするときにちょっとハマってしまったのでメモとして残しておきます。 まずはcsvファイルを用意します。 $cat sample.csv hoge,fuga foo,bar $ gzip …

今、airflowが熱いらしいです。 そこら編の解説は他の有用や記事に任せて、とりあえずチュートリアル動かしてみた備忘録を残しておきます。 AWS環境 Amazon Linux 2 セキュリティグループは sshの22番 ウェブコンソールの8080番 を開けておきます 大体チュー…