「ChatGPT Meetup Osaka #2」に参加しました

2024/06/01

ChatGPT Mwwtup Osaka #2に参加してきました。

今日も素敵な会場 gusuku Ashibinaa Osaksaをご提供いただきましたR3インスティテュートさん！

Techカンファレンスのセッション情報を話すRAGを作ってみた話

Okamoto Hidetakaさん

Techカンファレンスのセッション情報を話す RAGを作ってみた話 by @hideokamoto

WordCamp Kansaiのセッション情報を問いあわせるRAG(Retrieval-Augmented Generation)を作られた話。
渡す情報(コンテキスト)が長すぎると制限に引っかかる可能性があるので、関係性の高い部分だけを渡したい。
なのでRAGには関連性、類似性で検索できるベクトル検索がよく使われている。

セッション情報はWordPressにあるのでWordPress APIで全部取得した。
HTMLタグがじゃまなので、Marlkdownに変換された。
プラットフォームはCloudflare Embeddings、Cloudflare Workers AI、Cloudflare Workers。
LangChainのTextSplitterでテキストを分割して、Embeddingsでベクトルデータへ変換した。

RAGのretrievalの評価を”ranx”で行う

Shimizu Kuniakiさん

rankはRAGの精度を評価できるツール。
ほかには、Ragas, Prompt Flow, promptfoo,など
RAGの要素を大きく分けると、RetrievalとGeneration。
ほかにはのツールはRAG全体を評価するものが多い。
ranxはRetrievalを評価するツール。

非エンジニアの税理士が学んだこと

Takaeda Ayaさん

スライドがすごくおしゃれな、独立されてる税理士で占い師のたけださん。
AIに奪われる職業ランキングで必ず税理士が入っているので、税理士の仕事を効率化しやすいのではと思われた。
くしゃくしゃなレシートでもGPT4oのOCRでcsvにしてもらったらできた。

私はfreeeとMoneyForwardをカードと口座連携で自動仕訳してるから、レシートや領収証から入力するということをしてない。
なので、OCRの必要性を全然感じてないんですが、まだまだワークフローシステムさえ使っていない会社もけっこうあるらしい。

占いというものは実はスピリチュアルなものではなく、経験や性格など多方面の情報に基づく人生のアドバイス的なもの。
なのでLLMにはまだそこまでの分析や予測はできないので向いていなさそう。

AIで生成したものをAIでチェックしてる話

Sumida Ippeiさん

スタイリストさんがあった服を選んでくれて試させてくれるDROBE(https://drobe.jp/)のSumidaさん。
スタイリストさんは服といっしょにメッセージを送られている。
この個人向けのメッセージをパーソナライズされたサービスとは別に、サイト上で万人向けに表示しているページで使用されることを検討されている。
該当ページにはメッセージらしいものは現在なく、シンプルに服の情報だけなので、汎用なメッセージでも暖かいメッセージが表示できる。

ユーザーさんは70ぐらいの質問に答えてもらったカルテがある。
その属性に応じてスタイリングを提案しているページもある。
個人向けに作成されたメッセージを同じ属性のユーザーさんに提案しているスタイリングページで利用できるのでは。
個人情報やパーソナライズされた情報を削除(サニタイズ)するAPI、その結果をチェックするAPIをそれぞれOpenAI APIで開発されていた。

今あるものを効率化して魅力を失うのではなく、今ないものを実現してさらに魅力を付加する発想って素敵ですね。

Kong AI Gateway – LLMと上手く付き合うためのKong流アプローチ

Shinichi Hashitaniさん

World API IntegerationなKongさん。
複数のLLM APIのエンドポイントを一本化していく、APIのゲートウェイをサービスとして提供されている。
AI Prompt Decoratorはユーザーがパラメータを追加してプロンプトを調整できる。

生成AIによりこれからも増えていきそうな各API。
これらの認証などを開発者側が個別に管理しなくても、まとめて呼び出せるようにAPIを一本化していくGateway。

AIエージェントのはなし

Yoshida Shingoさん

AIエージェントとは、環境を認識し目標を達成するために自律的に行動する存在。
紹介されていた論文で、ボットに初学者としてふるまってもらって、コーディングを教えていくという論文がありました。
これ、ちゃんと初学者らしい初学者としてふるまってくれたり、ちょっとしたパラメータ変更ができて多様な受講者モデルを簡単に作られたら、人材育成事業で活用できますね。

ARグラスにChatGPTを入れてみた

こたうちさん

音声でメガネに命令をされるデモをされて、その次に眼の前の人の数を数えるデモをされていました。
後者はARグラスの特性を活かされてて面白いなあと思いました。

例えばこんなことができるのではと思いました。
* 受講者さんを顔照合して過去の受講記録やアンケートコメントを表示
* 受講者さんの顔の感情分析をして困惑している人を色で判断、分析結果はデータベースに随時記録し分析対象にする
* 海外で目に映るものをすべて翻訳し、観光提案もしてくれる
* 顔照合で名刺を表示
* 脳にいい感じにつなげて(耳に対しての骨伝導みたいな)グラスに映ったものを脳へ視覚信号として伝える