Perplexity Proを1ヶ月使ってみた

Perplexity Proを試しに契約してしばらく使ってみたので感想を書きます

私の用途

テクノロジー関連の質問が多く、ソースを知ることが可能+質問→回答の1往復で済むタスクが多い。最近の質問は「コインチェックのNEM流出経路は?」「近所の公園でレンタルサイクルを利用するには?」や「relationship between Avalanche and Ethereum」

Perplexity Proの特徴

モデルを変更できる。私はデフォルトのモデルより生成速度が速くなって欲しかったのでgpt-4oを選択した。

「Proサーチ」と言う多段的に検索→生成してくれる機能もあるみたいだけど、使いこなせなかったので数回しか試してない(再加工するならChatGPTでいいのでは思った)

pplx-apiというのも使えて、ブラウザで利用しているPerplexityの機能をAPIで使える。これで何かツール作れないかなとやってみたけどllama3ベースで日本語の扱いはイマイチだった

Perplexityの価値

Perplexityのサービスは「ユーザーの質問に対してウェブ検索した結果のサマリを生成してくれる」という部分の自動化になる。質問に対して内部で適切に検索クエリを生成して、収集結果を活用して1つの回答文章を提示してくれる。

この前提に基づくとPerplexityには「ウェブ検索に用いるクエリの精度」と「情報を集約して作文する」という精度があり、関連して「ウェブ検索で得られるソースの信頼性」が外部要因としてある。

「ウェブ検索に用いるクエリの精度」と「情報を集約して作文する」については無料版、有料版でそんなに差を感じていない。ただ無料版は回答速度が遅いな、ぐらいには感じていた。

あと情報源がウェブサイトなので知識のカットオフを意識しないでいいのは助かる

(使用例:WWDC24の結論を100文字以内で)

言語について

基本的に日本語で聞くと日本語サイトを情報源に検索する。

ウェブにあるテクノロジー情報は英語:日本語の9:1ぐらいの情報量の差がある。

これによって「ウェブ検索で得られるソースの信頼性」の部分で不利を受ける。例えば英語で尋ねると公式ドキュメントを参照してくれるが日本語で同じことを聞くとQiitaの個人メモを根拠にしてきたりする。

そのため質問を英文に翻訳して明示的に英語ソースを検索する必要があった。

回答の信頼性について

結構間違う。例えば「フレームワークAにはBという技術が使われています」程度の専門的なやつ。

ソースはウェブ情報なので集合知の敗北よ・・という気分になるが、厳密にはソースがダイレクトに間違っているケースは少ない。

それよりは質問に対する情報が見つからないけどPerplexityが頑張って回答を捻り出した結果見当違いになっていることが多かった。

ただ、高度な分野をなにを聞いても「分からないので調べてください」と答えてしまうとPerplexityのUXは損なわれてしまうと思うので、ChatGPTよりは踏み込む必要があるのがサービス提供者としては難しいところ

そして「質問→回答の1往復で済む」というユーザーの期待値側が高いので誤情報があった時の落胆が大きい。間違えているかもしれないことを想定すると、調査の自動化というメリットも失われてしまうので。