発表募集
第24回 汎用人工知能研究会(SIG-AGI)

開催概要

• 開催日時： 2023年8月8日(火曜日)  午後

• 開催形式：オンライン   

• 参加費：無料

開催趣旨

汎用人工知能（AGI: Artificial General Intelligence）は人間のように十分に広範な適用範囲と強力な汎化能力を持つ人工知能の開発を目指す研究領域です．2010年代前半の深層学習技術の進展を契機として開発が活性化し、2020年代の大規模モデルの進展をうけてその研究活動は大幅に加速し、実用研究も増えてきています。当汎用人工知能研究会は、本分野の研究振興を支える母体として 2015年に創設され、継続的に活動しており、2023年8月8日(火)に第24回目の研究会を企画します、これにあたり発表の投稿を募集いたします。

スコープ
汎用人工知能に関わる研究発表を募集します。
具体的には，・認知アーキテクチャ・認知ロボティクス・機械学習・推論・知識・脳の計算の仕組み・人工知能の評価方法・AIアライメント・記号創発（パターンと記号の関係）・人工知能の社会的影響・自律型ロボット制御・知能の自律性と汎用性などを想定していますが，これらに限らず汎用人工知能に関する発表を広く募集しますので、是非発表をご検討ください．

アジェンダ(暫定案）（午後半日）：

• 一般講演： 

• パネル討論：   （仮）人類の脅威となるAGIの作り方
  
  

パネル討論：人類の脅威となるAGIの作り方
開催趣旨：汎用人工知能を追うように実現されうる超知能は、しばしば人類に対して存在論的リスクを含めた大きな脅威となると考えられ、そうしたリスクへの対策を見出そうとする分野がAIアライメントである。しかしながら、比較的近未来において、危険性の高いAIが具体的にどのような技術として構築されるかはあまり議論されていない。そうした技術イメージが明確でなければ、その対策を講じることも難しい。そこで本パネル討論では、まず、AIアライメントの外観と最新動向を紹介し、つづいて比較的早い段階に生じる人類に対して脅威となるAI技術について検討を行う。

第１部： AIアライメントとは

知能において人類を超える超知能の出現に対して、そうしたAIの持つ潜在的なリスクを軽減するために取り組まれる研究領域であるAIアライメントの外観や、報酬ハッキング、権力追求などの傾向、さらに、AIアライメントとをめぐる世界的な最新動向などの基本的な内容を解説頂く。

• 山川宏（東京大学／全脳アーキテクチャ・イニシアティブ）（5分）： 趣旨説明

• 金井良太（株式会社アラヤ）(20分)：  TBD

• 有路翔太(20分)：  TBD

• 質疑応答(10分)

　休憩(10分)

第２部： いま大規模言語モデルから到達しうる脅威となるAI

現状の大規模言語モデルが、ある状況に置かれたり、もしくは何らかの技術を（例えば、AutoGPT、 AgentGPT、強化学習 など）組み合わることで、非常に危険性が高まるような具体的なシナリオについて検討する。その上で、当面の脅威を低減するためにはどのようにどのような対策が考えられるかについてパネル討論において議論する。

• 大澤博隆（慶應義塾大学）(20分)：  TBD

• 今井 翔太（東京大学）(20分)：  TBD
  パネル討論（40分）：直近の脅威をどの様に抑制できるのか

  • モデレータ：山川宏

  • パネリスト：金井良太、有路翔太、大澤博隆、今井翔太

重要日程

• 発表申込締切：2023年7月11日(火)
  (発表申込先： https://www.ai-gakkai.or.jp/sig-system/sigusers/presenter_add/agi/agi24 )

• 原稿提出締切： 2023年7月 25日(火)

• 開催日：2023年8月 8日(火)

発表形式

以下の二種類の口頭発表とします（オフライン／オンラインで発表可）．

• ロング：発表時間：30分（発表20分，質疑10分）原稿ページ数： 6ページ以上

• ショート：発表時間：15分（発表10分，質疑5分）原稿ページ数：標準4ページ

発表申込みの際に選択して下さい．
なお、発表数が多く時間が不足する場合には発表時間の短縮等をお願いすることがございますがご了承下さい。

投稿方法

人工知能学会 研究会 LaTeXスタイルファイル/Wordテンプレート：
http://www.ai-gakkai.or.jp/sig/sig-style/

注意事項

• 配信される全ての映像および音声は､著作権保護の観点から、録画および録音と、これを用いた引用、転用、配信、公開を禁止します。

• オンライン参加に関わるパスワードの第三者への転送は禁止します｡

問い合わせ先：

汎用人工知能研究会（sig-agi-kanji [at] ml.ai-gakkai.or.jp）

---------------------------------------------------------------------
人工知能学会 汎用人工知能研究会 (http://www.sig-agi.org/sig-agi/)
主査 ：市瀬 龍太郎（東京工業大学）
主幹事：山川 宏（全脳アーキテクチャ・イニシアティブ）
幹事 ：荒川 直哉（全脳アーキテクチャ・イニシアティブ）
幹事 ：嶋田 悟（エアロセンス）
幹事 ：ジェプカ ラファウ（北海道大学）