2chnavi
根本的に作りを見直す必要があるな。うん。とりあえず、 smartyのcacheを最大限に利用 クロール時にcacheを全部ぶっ壊す でおkっぽいな。さて、問題はethnaのどこをどう変えるかだ。
仮想化されてるせいか、top見ても何のたよりにもならん。
あー、面倒だった。 smarty cacheを生成(timeout 300sec) rss/人気度のアップデート完了時にキャッシュ全て破棄 の変更。これからしばらく様子みて、 smarty cacheのexpireは後で長めにしてみる RSSもsmarty cache化(現在はRSSのモジュールを使ってやってる)…
load averageが8突入。まさか告知した初日でこんなハメになるとは思わなんだ。 apacheがネック臭かったので、とりあえず色々パラメータを適当に修正してみた。現在1くらい。
sshでも入れない。何が起きてるんだ?
2chnaviちゃんと動いてるな。よかったよかった。これからアフィリエイトつけて、サーバ代まかないつつ、負荷で死ななければいいなぁ。で、これからは運用しつつ、次のプロジェクトに取りかかります。「数ヶ月間隔で新しいサービス/ソフトウェアを提供しよう…
全部クローリングのスクリプトもweb用に書いてたから、curlでトリガしてたんだけど、その箇所を全部cliに書き換えてみた。大分軽い。糞みたいにあったhttpdのプロセスとTIME_WAITのセッションが大分減った。なんかethnaのcliでdbにつながらないなぁ、と思っ…
しばらくrssの更新頻度が落ちます。
なんか一日のエントリ数が100超えてる気がする。やっぱり閾値は必須だなぁ。
http://2chnavi.net/bogus.html
修正してみたお。 RSSのURLを修正(THANX TO ER氏) ディレクトリ構造が変わってるので、RSSがこれから使えなくなるかもしんないです。新しいやつをお使いください。 新着記事に閾値モード追加 カテゴリ/板別のほうはそのうち追加します。 theshold=の数字を…
空きではない。トータルである。 「2GBしかないんだ。まだ大丈夫?」と聞かれ、「まぁ、大丈夫じゃないですかね」と答えつつも念のため空きスペースを見てみると残り500MB弱。もう3/4かよ。あわててホームディレクトリのゴミを捨てて、yumのキャッシュを捨て…
http://2chnavi.net/allentries/&threshold=5最後の数字を変えると閾値変更。 「エントリ数多いんだよバカ!」と思う人は閾値高めで見てくだちい。近日中にボード/カテゴリ/それぞれのRSSなどにも追加予定。
9割くらいは取得成功。false positiveは数件で、false negativeはわかんねぇ。false negativeな板は、板の性質上、自動化は無理臭い。しかし収集するのにすげー時間かかりすぎだな、これ。並列化しないと話にならん。 っつーか、RSSのほうももうそろそろ並列…
本番環境のほうに板の情報が集まってなかった。氏ね、俺。
chasenで記事の文章を単語で区切って、単語の頻出頻度調べたら面白いかなぁ、と思ったけどどうかね?Sennaとかってこれに使えるの?
mod_rewrite URLが全部index.phpでうんこなので、rewriteで色々調整する。 閾値モード 新着やカテゴリ・板別表示で、参照数が一定数(1/3/5?)のものだけを表示する 板判断失敗(板不明)の記事のカテゴリ けど、機能追加の前にバグ取れよ、って話だよなぁ。
広告無いとサーバ運営費かかるから続けられないんですが、どうすればいいでしょうかね? なんで俺のサイトは全部adsense落ちるかね?納得いかん。どういう審査基準なんだ?
http://2chnavi.net/index.php?act=Index_PopularEntry&rss=&showexcerpt=1とりあえずつけてみたテスト。 カテゴリと板別はまだ今度つける。
まだエラーとかでまくりんぐですが。http://2chnavi.net現状の機能。 2ch系ブログから情報収集 新着のリスティング 新着のRSSフィード 板ごとに分類 板ごとにRSSフィード カテゴリごとに分類 カテゴリごとにRSSフィード 2ch関連じゃないっぽい記事のフィルタ…
できたのかなぁ。リリースはやっぱり遅れる。
rssも配信し始めてみた。正しいかよくわかんないけど。ページ:http://2chnavi.net/index.php?act=Index_PopularEntry RSS:http://2chnavi.net/index.php?act=Index_PopularEntry&rss=1とりあえず過去5日間の記事に対して、そのurlの参照度合いをチェック…
http://2chnavi.net/index.php?act=Index_PopularEntry世の中のblogからどのくらい参照されているかを元に、過去一週間のランキング作成してみた。 RSSはまだない。
FAQ: 登録したのに反映されません 登録してすぐは反映されません。数時間後に反映されます。 反映されても他のサイトの記事の間に埋もれているかもしれません サイト名で検索してみてください 記事のタイトルで検索してみてください seesaa.netのユーザは承…