「ChatGPT Meetup Osaka #2」に参加しました

ChatGPT Meetup Osaka #2に参加してきました。

今日も素敵な会場 gusuku Ashibinaa Osakaをご提供いただきましたR3インスティテュートさん！

Techカンファレンスのセッション情報を話すRAGを作ってみた話

Okamoto Hidetakaさん

WordCamp Kansaiのセッション情報を問いあわせるRAG(Retrieval-Augmented Generation)を作られた話。
渡す情報(コンテキスト)が長すぎると制限に引っかかる可能性があるので、関係性の高い部分だけを渡したい。
なのでRAGには関連性、類似性で検索できるベクトル検索がよく使われている。

セッション情報はWordPressにあるのでWordPress APIで全部取得した。
HTMLタグがじゃまなので、Marlkdownに変換された。
プラットフォームはCloudflare Embeddings、Cloudflare Workers AI、Cloudflare Workers。
LangChainのTextSplitterでテキストを分割して、Embeddingsでベクトルデータへ変換した。

RAGのretrievalの評価を”ranx”で行う

Shimizu Kuniakiさん

rankはRAGの精度を評価できるツール。
ほかには、Ragas, Prompt Flow, promptfoo,など
RAGの要素を大きく分けると、RetrievalとGeneration。
ほかにはのツールはRAG全体を評価するものが多い。
ranxはRetrievalを評価するツール。

非エンジニアの税理士が学んだこと

Takaeda Ayaさん

スライドがすごくおしゃれな、独立されてる税理士で占い師のたけださん。
AIに奪われる職業ランキングで必ず税理士が入っているので、税理士の仕事を効率化しやすいのではと思われた。
くしゃくしゃなレシートでもGPT4oのOCRでcsvにしてもらったらできた。

私はfreeeとMoneyForwardをカードと口座連携で自動仕訳してるから、レシートや領収証から入力するということをしてない。
なので、OCRの必要性を全然感じてないんですが、まだまだワークフローシステムさえ使っていない会社もけっこうあるらしい。

占いというものは実はスピリチュアルなものではなく、経験や性格など多方面の情報に基づく人生のアドバイス的なもの。
なのでLLMにはまだそこまでの分析や予測はできないので向いていなさそう。

AIで生成したものをAIでチェックしてる話

Sumida Ippeiさん

スタイリストさんがあった服を選んでくれて試させてくれるDROBE(https://drobe.jp/)のSumidaさん。
スタイリストさんは服といっしょにメッセージを送られている。
この個人向けのメッセージをパーソナライズされたサービスとは別に、サイト上で万人向けに表示しているページで使用されることを検討されている。
該当ページにはメッセージらしいものは現在なく、シンプルに服の情報だけなので、汎用なメッセージでも暖かいメッセージが表示できる。

ユーザーさんは70ぐらいの質問に答えてもらったカルテがある。
その属性に応じてスタイリングを提案しているページもある。
個人向けに作成されたメッセージを同じ属性のユーザーさんに提案しているスタイリングページで利用できるのでは。
個人情報やパーソナライズされた情報を削除(サニタイズ)するAPI、その結果をチェックするAPIをそれぞれOpenAI APIで開発されていた。

今あるものを効率化して魅力を失うのではなく、今ないものを実現してさらに魅力を付加する発想って素敵ですね。

Kong AI Gateway – LLMと上手く付き合うためのKong流アプローチ

Shinichi Hashitaniさん

World API IntegerationなKongさん。
複数のLLM APIのエンドポイントを一本化していく、APIのゲートウェイをサービスとして提供されている。
AI Prompt Decoratorはユーザーがパラメータを追加してプロンプトを調整できる。

生成AIによりこれからも増えていきそうな各API。
これらの認証などを開発者側が個別に管理しなくても、まとめて呼び出せるようにAPIを一本化していくGateway。

AIエージェントのはなし

Yoshida Shingoさん

AIエージェントとは、環境を認識し目標を達成するために自律的に行動する存在。
紹介されていた論文で、ボットに初学者としてふるまってもらって、コーディングを教えていくという論文がありました。
これ、ちゃんと初学者らしい初学者としてふるまってくれたり、ちょっとしたパラメータ変更ができて多様な受講者モデルを簡単に作られたら、人材育成事業で活用できますね。

ARグラスにChatGPTを入れてみた

こたうちさん

音声でメガネに命令をされるデモをされて、その次に眼の前の人の数を数えるデモをされていました。
後者はARグラスの特性を活かされてて面白いなあと思いました。

例えばこんなことができるのではと思いました。
* 受講者さんを顔照合して過去の受講記録やアンケートコメントを表示
* 受講者さんの顔の感情分析をして困惑している人を色で判断、分析結果はデータベースに随時記録し分析対象にする
* 海外で目に映るものをすべて翻訳し、観光提案もしてくれる
* 顔照合で名刺を表示
* 脳にいい感じにつなげて(耳に対しての骨伝導みたいな)グラスに映ったものを脳へ視覚信号として伝える

まとめ

生成AIも周辺サービスも技術もユースケースもこれからもどんどん出てくると思いますので、勉強会などの機会を活用して、積極的にインプット/アウトプットしていきたいです。

最後までお読みいただきましてありがとうございました！

「AWS認定資格試験テキスト＆問題集　AWS認定ソリューションアーキテクト - プロフェッショナル 改訂第2版」という本を書きました。

「AWS認定資格試験テキスト AWS認定クラウドプラクティショナー 改訂第3版」という本を書きました。

「ポケットスタディ AWS認定 デベロッパーアソシエイト ［DVA-C02対応］ 」という本を書きました。

「要点整理から攻略するAWS認定ソリューションアーキテクト-アソシエイト」という本を書きました。

「AWSではじめるLinux入門ガイド」という本を書きました。

@yamamanx

開発ベンダー5年、ユーザ企業システム部門通算9年、ITインストラクター5年目でプロトタイプビルダーもやりだしたSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

このブログの内容/発言の一切は個人の見解であり、所属する組織とは関係ありません。
このブログは経験したことなどの共有を目的としており、手順や結果などを保証するものではありません。
ご参考にされる際は、読者様自身のご判断にてご対応をお願いいたします。

また、勉強会やイベントのレポートは自分が気になったことをメモしたり、聞いて思ったことを書いていますので、登壇者の意見や発表内容ではありません。