40代でテックキャンプ・エンジニア転職コースを受講したら転職成功できる？
40代のエンジニア志望 最近、40代の未経験からエンジニア転職できた事例を見かけるよね？ 今からテックキャンプに行けば、転職成功する？ 上記の疑問に、自社開発会社でエンジニアの採用担当をしている筆者が回答します。 かんたん結論 まずは、ざっくり結論を述べていきますね。 だから、年齢を理由にエンジニア転職をあきらめる必要はありません。 40代のエンジニア志望 それなら、いまからテックキャンプに行けば […]
MONTH
2020年3月
seleniumとpythonを使ったスクレイピングをyahoo知恵袋を例に解説！図に出力も
悩みあり スクレイピングはどのようにやるの？ 集めたデータは、どのように活用するの？ というわけで、今回はYahoo知恵袋の質問の検索結果の取得および、質問の詳細ページの取得を例にスクレイピングの実装例を紹介します。 さらに、集めたデータの活用例としてword2vecとPCAを用いて近い単語をグラフにプロットする例も紹介します。 準備 まずは、スクレイピングするための必 […]
【pythonで自然言語処理】日本語版・word2vecで分散表現した単語を２次元に可視化する
スクレイピングでデータを集めてみたんだけど、10000行とかデータが多すぎて分析が面倒だよ。 なんかいい方法ないかな？ すべてのデータを見るなんて現実的ではないよね。 そんな事やっているのは、De○Aのkaggleの金メダリストくらいだよ〜。 今回は、日本語の類似単語を図に出す方法を解説するよ。 単語を図にプロットするとなんとなく傾向をつかめて良いよ♪ & […]
【pythonで自然言語処理】word2vecで分散表現した単語を２次元に可視化する
意味的に近い単語の分布を知りたい。そんなときは、２次元の分布図を作成するのが有効です。 kaggleで特徴量を調査するときにも役立つツールになります。 この記事では、word2vecによる分散表現、PCA(主成分分析)による次元圧縮(N次元から２次元へ)、単語を２次元の図にプロットする方法を解説します。 なお、word2vecによる分散表現についてはUdemyの自然言語処理の講座が参考になります。 […]
サクッとdockerでpythonとmysqlの開発環境を作成する
■この記事を読むとわかること dockerを使ってpythonからmysqlを呼び出して処理する方法がわかる(「Docker Compose」は利用していません) pythonとmysqlを連携するときに必要なDockerネットワークの使い方がわかる pythonとmysqlを連携する際にハマるポイントがわかる 概要 時間をかけないでpythonとmysqlの開発環境を […]
【ハマり解決】Pythonのmysql接続ライブラリdatasetを使ったらUnicodeEncodeErrorが発生した
Pythonのライブラリdatasetを使ってmysqlにデータを書き込もうとしたときに、UnicodeEncodeErrorが出て書き込みに失敗した。 対処方法がわかったので記事化します！ 起きた問題 Pythonのライブラリdatasetを使ってmysqlにデータを書き込み(insert)を試みました。 しかし、insertの処理をしようとしたタイミングで、UnicodeEnco […]
【ハマり解決】python・dockerのmysql8に接続でcaching_sha2_passwordエラーが出た！
この記事では、pythonのライブラリmysql.connectorを使って、dockerのmysql8に接続しようとしたとき、caching_sha2_passwordエラーが出でて詰まった人に解決策を述べます！ また、dockerを使っていなくてもcaching_sha2_passwordエラーの対処方法がわかると思います！ 概要 pythonでmysql8にmysql.connectorライ […]
pythonのseleniumでjavascript(ajax)、iframeが使われたページのスクレイピング方法
情報収集には、「スクレイピング」を使うと楽ですが、javascript(ajax)、iframeが使われたサイトだとうまく取得できないことが多いです。 今回は、javascriptによる非同期読み込み、iframeが使われたサイトに対応した、「スクレイピング」方法をseleniumを使った例で解説します。 概要 スクレイピングを使うと、自動でWEBサイトのデータをダウンロードできるの […]