「プライスチェックAI」をローンチしたら、3つの想定外にぶつかった話


前回、このブログ自体を作るまでに丸2日遠回りした話を書いた。今回は、実際に世に出した商材の話。「プライスチェックAI」というツールで、フリーランス・個人事業主が受けようとしている案件の内容を入れると、AIが相場を踏まえた適正価格を診断してくれる。

これも「うまくいった話」として書きたい気持ちはあるんだけど、正直に言うと、公開前後の数日間だけで3回、設計時には見えてなかった問題にぶつかった。今回はその3つをそのまま書く。

1つ目: 「幅が広すぎて商品にならない」という自分自身への指摘

診断ロジックが動くようになって、最初に自分で試したのが「システム開発、6ヶ月、法人向け」という条件だった。返ってきた金額が55万円〜95万円。

これを見て真っ先に思ったのが「これじゃ診断って呼べない」ということ。95万円っていうのはほぼ何でもアリの数字で、未経験に毛が生えたエンジニアからシニアのアーキテクトまで同じレンジに突っ込んでたのが原因だった。カテゴリの粒度が粗すぎた。

対応として、経験年数で「システム開発(経験1〜3年)」「(4〜7年)」「(8年以上)」みたいにティア自体を分割し直した。同じ条件で診断し直すと60万円〜78万円まで幅が縮んで、ようやく「診断」と呼べる水準になった。

地味な作業だったけど、ここで手を抜いて「まあ相場ってこんなもんでしょ」で公開してたら、最初に使った人の信頼をその場で失ってた気がする。

2つ目: 公開した直後に発覚した、AIへの指示の抜け穴

ティア分割で幅の問題は片付いた、と思って本番にデプロイした。ところが公開直後、改めて同じ条件で試したら今度は38万円〜60万円という、ティア分割前より縮まったはずのレンジ(40万〜55万円)より逆に広い結果が返ってきた。

原因を追ったら、AIへの指示が「基準レンジの80%〜130%に収める」という書き方をしていて、下限と上限をそれぞれ独立に動かせる設計になってたのが原因だった。下限が基準の95%、上限が基準の130%みたいに逆方向に振れると、合成した幅そのものが基準レンジより広がってしまう。

これはAIへの指示文をどれだけ丁寧に書いても防げないタイプの穴だった。結局、AIの出力をそのまま信じず、サーバー側で「幅が基準レンジ自体を超えていたら強制的に縮める」処理を後から挟んで解決した。AIに数値の範囲を出力させる系の機能は、境界値だけじゃなく「幅そのもの」にも上限を設けないといけない、というのが今回の学び。

3つ目: ローンチした直後に「別の商材に乗り換えたい」という誘惑

上の2つを片付けてようやく一息ついたところで、今度は自分の中から「本当にこれ、有料版に切り替える人いるのか?」という疑問が湧いてきた。相場観って一度身につけたら毎月調べ直すものでもない気がして。

代わりに浮かんだのが、SES(エンジニア派遣)業界向けのスキルシート管理・案件マッチングAIという、もっと大きな構想だった。実際に要件をまとめて検討もした。

結局、これは見送った。理由は2つ。エンジニアと企業のマッチングで手数料を取るなら有料職業紹介事業の許可みたいな規制が絡んでくる可能性があって、そこを調べ切れてなかったこと。もう一つは、AI普及でSES業界自体の先行きが怪しくなってきてるんじゃないかという、身も蓋もない所感。

ローンチしたばかりの商材を、検証もできてない次の思いつきのために放り出すところだった。「今のものをちゃんと動く状態まで仕上げてから判断する」に立ち返って、プライスチェックAI自体はそのままMVP完了として扱うことにした。

今のところの状態

プライスチェックAIは公開済み。月額980円のPro版と無料枠(月5回)というフリーミアム構成で、積極的な集客はまだしていない。固定費が発生しない構成なので、放置しても赤字にはならない。継続するか畳むかは、ローンチから3ヶ月後の10月11日あたりを目安に、実際の利用状況を見てから判断するつもりでいる。

今日の教訓

3つとも、設計段階の資料や仕様書を読み返しても気づけなかった類の問題だった。「幅が広すぎる」は実際に自分で数字を見て初めて分かったし、AIの指示の抜け穴は本番で同じ条件をもう一度試したから見つかった。次の商材への誘惑も、手を止めて自分に問い直したから踏みとどまれた。

机上で完璧にしようとするより、まず出してみて、出した後の反応(自分自身のツッコミも含めて)を拾い続ける方が、結局は近道になる気がしている。

次は、今ちょうど進めているコミュニティへの露出(Indie Hackers・noteでの紹介)がどう転ぶか、もう少し動きが出てから書こうと思う。