刺身の上にたんぽぽ乗せる日記

プログラミングしたり、自販機の下に落ちてる小銭を集めたりしてます

2chnavi

サーバが遅過ぎる件に関して

根本的に作りを見直す必要があるな。うん。とりあえず、 smartyのcacheを最大限に利用 クロール時にcacheを全部ぶっ壊す でおkっぽいな。さて、問題はethnaのどこをどう変えるかだ。

相変わらずピークタイムの負荷が酷い

仮想化されてるせいか、top見ても何のたよりにもならん。

サーバ負荷対策一部完了

あー、面倒だった。 smarty cacheを生成(timeout 300sec) rss/人気度のアップデート完了時にキャッシュ全て破棄 の変更。これからしばらく様子みて、 smarty cacheのexpireは後で長めにしてみる RSSもsmarty cache化(現在はRSSのモジュールを使ってやってる)…

負荷対策中

load averageが8突入。まさか告知した初日でこんなハメになるとは思わなんだ。 apacheがネック臭かったので、とりあえず色々パラメータを適当に修正してみた。現在1くらい。

なんか2chnaviがつながらない件に関して

sshでも入れない。何が起きてるんだ?

次のプロジェクト

2chnaviちゃんと動いてるな。よかったよかった。これからアフィリエイトつけて、サーバ代まかないつつ、負荷で死ななければいいなぁ。で、これからは運用しつつ、次のプロジェクトに取りかかります。「数ヶ月間隔で新しいサービス/ソフトウェアを提供しよう…

クローリングをcli化

全部クローリングのスクリプトもweb用に書いてたから、curlでトリガしてたんだけど、その箇所を全部cliに書き換えてみた。大分軽い。糞みたいにあったhttpdのプロセスとTIME_WAITのセッションが大分減った。なんかethnaのcliでdbにつながらないなぁ、と思っ…

クローリング重いいいいいいいいいいいいいいいいいいいい

しばらくrssの更新頻度が落ちます。

データソースをすげーいっぱい増やしてみた

なんか一日のエントリ数が100超えてる気がする。やっぱり閾値は必須だなぁ。

404のページ作ってみた

http://2chnavi.net/bogus.html

2chnavi修正

修正してみたお。 RSSのURLを修正(THANX TO ER氏) ディレクトリ構造が変わってるので、RSSがこれから使えなくなるかもしんないです。新しいやつをお使いください。 新着記事に閾値モード追加 カテゴリ/板別のほうはそのうち追加します。 theshold=の数字を…

2chnavi.netのストレージが2GBしかない

空きではない。トータルである。 「2GBしかないんだ。まだ大丈夫?」と聞かれ、「まぁ、大丈夫じゃないですかね」と答えつつも念のため空きスペースを見てみると残り500MB弱。もう3/4かよ。あわててホームディレクトリのゴミを捨てて、yumのキャッシュを捨て…

こっそりと閾値モードができている

http://2chnavi.net/allentries/&threshold=5最後の数字を変えると閾値変更。 「エントリ数多いんだよバカ!」と思う人は閾値高めで見てくだちい。近日中にボード/カテゴリ/それぞれのRSSなどにも追加予定。

収集完了

9割くらいは取得成功。false positiveは数件で、false negativeはわかんねぇ。false negativeな板は、板の性質上、自動化は無理臭い。しかし収集するのにすげー時間かかりすぎだな、これ。並列化しないと話にならん。 っつーか、RSSのほうももうそろそろ並列…

なんか記事のカテゴライズがうまくいってないと思ってたら

本番環境のほうに板の情報が集まってなかった。氏ね、俺。

ホットキーワード

chasenで記事の文章を単語で区切って、単語の頻出頻度調べたら面白いかなぁ、と思ったけどどうかね?Sennaとかってこれに使えるの?

2chnavi変更予定

mod_rewrite URLが全部index.phpでうんこなので、rewriteで色々調整する。 閾値モード 新着やカテゴリ・板別表示で、参照数が一定数(1/3/5?)のものだけを表示する 板判断失敗(板不明)の記事のカテゴリ けど、機能追加の前にバグ取れよ、って話だよなぁ。

adsense落ちた

広告無いとサーバ運営費かかるから続けられないんですが、どうすればいいでしょうかね? なんで俺のサイトは全部adsense落ちるかね?納得いかん。どういう審査基準なんだ?

2chnavi - 記事概要表示モード

http://2chnavi.net/index.php?act=Index_PopularEntry&rss=&showexcerpt=1とりあえずつけてみたテスト。 カテゴリと板別はまだ今度つける。

とりあえず超アルファリリース

まだエラーとかでまくりんぐですが。http://2chnavi.net現状の機能。 2ch系ブログから情報収集 新着のリスティング 新着のRSSフィード 板ごとに分類 板ごとにRSSフィード カテゴリごとに分類 カテゴリごとにRSSフィード 2ch関連じゃないっぽい記事のフィルタ…

2chnaviとりあえずできた?

できたのかなぁ。リリースはやっぱり遅れる。

最近の記事の人気度ランキング

rssも配信し始めてみた。正しいかよくわかんないけど。ページ:http://2chnavi.net/index.php?act=Index_PopularEntry RSS:http://2chnavi.net/index.php?act=Index_PopularEntry&rss=1とりあえず過去5日間の記事に対して、そのurlの参照度合いをチェック…

最近の記事の人気度ランキング

http://2chnavi.net/index.php?act=Index_PopularEntry世の中のblogからどのくらい参照されているかを元に、過去一週間のランキング作成してみた。 RSSはまだない。

2chnavi 要望、バグ、その他色々

FAQ: 登録したのに反映されません 登録してすぐは反映されません。数時間後に反映されます。 反映されても他のサイトの記事の間に埋もれているかもしれません サイト名で検索してみてください 記事のタイトルで検索してみてください seesaa.netのユーザは承…