センターからのお知らせ(イベント)
「手元で動かして試す生成系AIハンズオンセミナー(3月22日開催)」のご案内
2024.02.29
本セミナーでは、生成系AIの代表例である大規模言語モデル(Large language model; LLM)による対話型AIアプリを机上・手元のコンピューティングデバイスで実際に動かして試すハンズオンを行います。
(内容詳細)
ChatGPTなどの生成系AIサービスの利用が広範な分野で進んでいます。しかし、多くのAIサービスはデータセンターで動作し、その利用にはインターネット接続が必要です。また、クローズドなAIモデルではユーザーが入力したデータがどのように取り扱われるか不安視されることもあり、セキュリティ上の懸念から機密情報での利用が制限されることもあります。一方、世界中の研究グループがオープンなAIモデルの公開を続けており、これらのモデルはデータセンターを必要とせず、またクローズドなAIモデルに匹敵する性能を発揮することもあります。このようなオープンなモデルをユーザー自身が所有するエッジデバイスで動作させることで、セキュリティリスクを最小限に抑えながらAIサービスを利用できる可能性があります。このようなオフライン・セキュア・ローカルなAIの現状と発展性について、エッジコンピューティングデバイスであるNVIDIA Jetson Orinを使用したハンズオンセミナーで探ります。
【プログラム(予定)】
- 大規模言語モデル(LLM)とエッジコンピューティング概説
- Jetson Orin Nanoでの作業セットアップ
- オープンLLMを動かしてみよう
- LLMを対話型AIアプリとして動かしてみよう
- ローカル・セキュアなAIアプリとして実用性を高めるには?
【日時】
2024/3/22(金)13:30~17:00
【会場】
東北大学 川内北キャンパス マルチメディア教育研究棟1F ICL演習室3(M101)
https://www.cds.tohoku.ac.jp/access-contact/
【対象】
- 生成系AI・大規模言語モデルやエッジコンピューティングデバイスに興味があり、研究等に使ってみたい方(東北地区の学術機関等に所属する学生・教職員はどなたでも応募可能です)
- ハンズオンでは作業用にご自身のPCを持参ください
【定員】
最大30名(事前登録制・参加費無料・先着順)
【申込方法】
下記のURLよりお申し込みください。
https://forms.gle/uQuxF4NKvSTDzKgQ9
【問い合わせ先】
データ駆動科学・AI教育研究センター 市地
Email: genai-seminar[at]cds.tohoku.ac.jp
※[at]は@に置き換えてください
【主催】
東北大学データ駆動科学・AI教育研究センター
【共催】
数理・データサイエンス・AI教育強化拠点コンソーシアム東北ブロック(依頼中)
添付ファイル:手元で動かして試す生成系AIハンズオンセミナー.pdf