ヤマムギ

growing hard days.

*

「ChatGPT Meetup Osaka #2」に参加しました

   

ChatGPT Mwwtup Osaka #2に参加してきました。

今日も素敵な会場 gusuku Ashibinaa Osaksaをご提供いただきましたR3インスティテュートさん!

Techカンファレンスのセッション情報を話すRAGを作ってみた話

Okamoto Hidetakaさん

WordCamp Kansaiのセッション情報を問いあわせるRAG(Retrieval-Augmented Generation)を作られた話。
渡す情報(コンテキスト)が長すぎると制限に引っかかる可能性があるので、関係性の高い部分だけを渡したい。
なのでRAGには関連性、類似性で検索できるベクトル検索がよく使われている。

セッション情報はWordPressにあるのでWordPress APIで全部取得した。
HTMLタグがじゃまなので、Marlkdownに変換された。
プラットフォームはCloudflare Embeddings、Cloudflare Workers AI、Cloudflare Workers。
LangChainのTextSplitterでテキストを分割して、Embeddingsでベクトルデータへ変換した。

RAGのretrievalの評価を”ranx”で行う

Shimizu Kuniakiさん

rankはRAGの精度を評価できるツール。
ほかには、Ragas, Prompt Flow, promptfoo,など
RAGの要素を大きく分けると、RetrievalとGeneration。
ほかにはのツールはRAG全体を評価するものが多い。
ranxはRetrievalを評価するツール。

非エンジニアの税理士が学んだこと

Takaeda Ayaさん

スライドがすごくおしゃれな、独立されてる税理士で占い師のたけださん。
AIに奪われる職業ランキングで必ず税理士が入っているので、税理士の仕事を効率化しやすいのではと思われた。
くしゃくしゃなレシートでもGPT4oのOCRでcsvにしてもらったらできた。

私はfreeeとMoneyForwardをカードと口座連携で自動仕訳してるから、レシートや領収証から入力するということをしてない。
なので、OCRの必要性を全然感じてないんですが、まだまだワークフローシステムさえ使っていない会社もけっこうあるらしい。

占いというものは実はスピリチュアルなものではなく、経験や性格など多方面の情報に基づく人生のアドバイス的なもの。
なのでLLMにはまだそこまでの分析や予測はできないので向いていなさそう。

AIで生成したものをAIでチェックしてる話

Sumida Ippeiさん

スタイリストさんがあった服を選んでくれて試させてくれるDROBE(https://drobe.jp/)のSumidaさん。
スタイリストさんは服といっしょにメッセージを送られている。
この個人向けのメッセージをパーソナライズされたサービスとは別に、サイト上で万人向けに表示しているページで使用されることを検討されている。
該当ページにはメッセージらしいものは現在なく、シンプルに服の情報だけなので、汎用なメッセージでも暖かいメッセージが表示できる。

ユーザーさんは70ぐらいの質問に答えてもらったカルテがある。
その属性に応じてスタイリングを提案しているページもある。
個人向けに作成されたメッセージを同じ属性のユーザーさんに提案しているスタイリングページで利用できるのでは。
個人情報やパーソナライズされた情報を削除(サニタイズ)するAPI、その結果をチェックするAPIをそれぞれOpenAI APIで開発されていた。

今あるものを効率化して魅力を失うのではなく、今ないものを実現してさらに魅力を付加する発想って素敵ですね。

Kong AI Gateway – LLMと上手く付き合うためのKong流アプローチ

Shinichi Hashitaniさん

World API IntegerationなKongさん。
複数のLLM APIのエンドポイントを一本化していく、APIのゲートウェイをサービスとして提供されている。
AI Prompt Decoratorはユーザーがパラメータを追加してプロンプトを調整できる。

生成AIによりこれからも増えていきそうな各API。
これらの認証などを開発者側が個別に管理しなくても、まとめて呼び出せるようにAPIを一本化していくGateway。

AIエージェントのはなし

Yoshida Shingoさん

AIエージェントとは、環境を認識し目標を達成するために自律的に行動する存在。
紹介されていた論文で、ボットに初学者としてふるまってもらって、コーディングを教えていくという論文がありました。
これ、ちゃんと初学者らしい初学者としてふるまってくれたり、ちょっとしたパラメータ変更ができて多様な受講者モデルを簡単に作られたら、人材育成事業で活用できますね。

ARグラスにChatGPTを入れてみた

こたうちさん

音声でメガネに命令をされるデモをされて、その次に眼の前の人の数を数えるデモをされていました。
後者はARグラスの特性を活かされてて面白いなあと思いました。

例えばこんなことができるのではと思いました。
* 受講者さんを顔照合して過去の受講記録やアンケートコメントを表示
* 受講者さんの顔の感情分析をして困惑している人を色で判断、分析結果はデータベースに随時記録し分析対象にする
* 海外で目に映るものをすべて翻訳し、観光提案もしてくれる
* 顔照合で名刺を表示
* 脳にいい感じにつなげて(耳に対しての骨伝導みたいな)グラスに映ったものを脳へ視覚信号として伝える

まとめ

生成AIも周辺サービスも技術もユースケースもこれからもどんどん出てくると思いますので、勉強会などの機会を活用して、積極的にインプット/アウトプットしていきたいです。


最後までお読みいただきましてありがとうございました!

「AWS認定資格試験テキスト&問題集 AWS認定ソリューションアーキテクト - プロフェッショナル 改訂第2版」という本を書きました。

「AWS認定資格試験テキスト AWS認定クラウドプラクティショナー 改訂第3版」という本を書きました。

「ポケットスタディ AWS認定 デベロッパーアソシエイト [DVA-C02対応] 」という本を書きました。

「要点整理から攻略するAWS認定ソリューションアーキテクト-アソシエイト」という本を書きました。

「AWSではじめるLinux入門ガイド」という本を書きました。

 - event, study

ad

ad

  関連記事

「大阪Pythonユーザの集まり」に行ってきました

「大阪Pythonユーザの集まり」 に行ってきました。 あんまりメモ取れてません …

「IoT縛りの勉強会/SIer主催版 SIerIoTLT vol4」に行ってきました

「IoT縛りの勉強会/SIer主催版 SIerIoTLT vol4」に行ってきま …

「JAWS-UG朝会 #17」に参加しました

朝7:30からのJAWS-UG朝会。 コース実施の日は配信スタジオへの移動時間な …

Java SE 7 Silver対策勉強をしながらメモ 2015/2/5

本日は例外。 いつものごとくマークダウンで記載したのでそのままJetpack M …

「JAWS-UG Osaka AWSデビューするなら大阪から!大阪リージョン触ろうの会」に参加しました

3/2に大阪リージョンがオープンしたことを受けて、大阪リージョンでサーバーレスア …

「Botの王道:配達ピザの注文をさばくBotを2時間で開発するワークショップ@大阪」に参加しました

「Botの王道:配達ピザの注文をさばくBotを2時間で開発するワークショップ@大 …

Alexaスキル開発でデザイン・スプリントのすすめ(Alexa Day 2019でのブログ)

ランチタイムセッションの一本目はISAOさん。 以下は、気になったことのメモとか …

Developers Summit 2024「マーケットインアプローチで挑む新規プロダクトの立ち上げ」を見ました

株式会社ベリサーブ 研究企画開発部 サービス開発課 田中 志弥さん ソフトウェア …

No-Code JP 第0回で様々な熱い言葉を聞いて思ったこと

以下は、気になったことのメモとか感想を書いています。 登壇者、発表者、主催企業な …

MonotaRO TechTalk #4「データ分析」に行ってきました

本日の一杯目。MonotaRO TechTalk #4「データ分析」もちろん呑み …