開催案内
第24回 汎用人工知能研究会(SIG-AGI)

開催概要

• 開催日時：2023年8月8日(火曜日)   13:00-18:00

• 会場： オンライン

• 参加登録URL：　https://www.ai-gakkai.or.jp/sig-system/sigusers/add/agi/agi24

• 参加費：無料（参加登録者にZoomのURLをお知らせします）

• 資料ダウンロードURL：https://www.jstage.jst.go.jp/browse/jsaisigtwo/2023/0/_contents/-char/ja

• 主催： 汎用人工知能研究会（問い合わせ先： sig-agi-kanji [at] ml.ai-gakkai.or.jp）

開催趣旨

汎用人工知能（AGI: Artificial General Intelligence）は人間のように十分に広範な適用範囲と強力な汎化能力を持つ人工知能の開発を目指す研究領域です．2010年代前半の深層学習技術の進展を契機として開発が活性化し、2020年代の大規模モデルの進展をうけてその研究活動は大幅に加速し、実用研究も増えてきています。当汎用人工知能研究会は、本分野の研究振興を支える母体として 2015年に創設され、継続的に活動しており、2023年8月8日(火)に第24回目の研究会を企画します。
今回は特に、昨今注意が高まっているAGIがもらす大きなリスクへの対応についての議論を行うために、金井良太氏、有路翔太氏、大澤博隆氏、今井 翔太氏をお招きして「パネル企画：人類の脅威となるAGIの作り方」を実施し、ご講演をいただいたうえでパネル討論を行います。皆様のご参加をお待ちしております。

プログラム

• 13:00-13:05 開会のあいさつ

• 13:05-14:20   一般講演

13:05‐13:20  一般講演（ショート）SIG-AGI-024-01
岡島義憲（情報統合技術研究合同会社）
普遍論理としてのTransformer理解

13:20‐13:35  一般講演（ショート）SIG-AGI-024-02
岡谷基弘（フリー）
GPT-4による足し算実験から示唆されるLarge Language Modelsの課題

13:35‐13:50  一般講演（ショート）SIG-AGI-024-03
荒川直哉（フリー）
系列事例を用いた遅延見本合わせ課題の解法

13:50‐14:05  一般講演（ショート）SIG-AGI-024-04
岡本義則（ユアサハラ法律特許事務所）
汎用人工知能のアラインメントと人権（AI権）

14:05‐14:20  一般講演（ショート）SIG-AGI-024-05
山川宏（東大／全脳アーキテクチャ・イニシアティブ）
物理世界で生存可能な人工知能の出現

• 14:20-14:30  休憩

• 14:30-15:30  招待講演   SIG-AGI-024-06
  Pei Wang (王培・Temple University )
  Different Understandings of AGI
  概要： In this talk, the major understandings of "Artificial General Intelligence (AGI)" are compared and analyzed, including their objectives, potentials, and limitations. In this context, a specific AGI project, NARS, is briefly introduced.

• 14:30-14:40  休憩

• 15:40-18:00  パネル企画：人類の脅威となるAGIの作り方(下記参照）

• 18:00-18:05 閉会のあいさつ

パネル討論：人類の脅威となるAGIの作り方
開催趣旨：汎用人工知能を追うように実現されうる超知能は、しばしば人類に対して存在論的リスクを含めた大きな脅威となると考えられ、そうしたリスクへの対策を見出そうとする分野がAIアライメントである。しかしながら、比較的近未来において、危険性の高いAIが具体的にどのような技術として構築されるかはあまり議論されていない。そうした技術イメージが明確でなければ、その対策を講じることも難しい。そこで本パネル討論では、まず、AIアライメントの外観と最新動向を紹介し、つづいて比較的早い段階に生じる人類に対して脅威となるAI技術について検討を行う。

第１部： AIアライメントとは

知能において人類を超える超知能の出現に対して、そうしたAIの持つ潜在的なリスクを軽減するために取り組まれる研究領域であるAIアライメントの外観や、報酬ハッキング、権力追求などの傾向、さらに、AIアライメントとをめぐる世界的な最新動向などの基本的な内容を解説頂く。

15:40-15:45  山川宏（東京大学／全脳アーキテクチャ・イニシアティブ）（5分）：
趣旨説明

15:45-16:05  金井良太（株式会社アラヤ）SIG-AGI-024-07
（仮）AIアライメント概論

16:05-16:25  有路翔太     SIG-AGI-024-08
AGI実現時期と脅威モデル

16:25-16:30    質疑応答(10分)

16:30-16:40     休憩(10分)

第２部： いま大規模言語モデルから到達しうる脅威となるAI

現状の大規模言語モデル（LLM）が、ある状況に置かれたり、もしくは何らかの技術を（例えば、AutoGPT、 AgentGPT、強化学習 など）組み合わることで、非常に危険性が高まるような具体的なシナリオについて検討する。その上で、当面の脅威を低減するためにはどのようにどのような対策が考えられるかについてパネル討論において議論する。

16:40-17:00  大澤博隆（慶應義塾大学）     SIG-AGI-024-09
（仮）AIの人類に対する脅威に関わるSFプロトタイピング

17:00-17:20    今井 翔太（東京大学）    SIG-AGI-024-10
LLMをどのように使えば脅威となるのか

17:20-18:00   パネル討論：直近の脅威をどの様に抑制できるのか
モデレータ：山川宏
パネリスト：金井良太、有路翔太、大澤博隆、今井翔太

注意事項

• 研究会において配信される全ての映像および音声は､著作権保護の観点から、録画および録音と、これを用いた引用、転用、配信、公開を禁止します。

• パスワードの第三者への転送は禁止します｡

幹事：問い合わせ先：

人工知能学会 汎用人工知能研究会 (http://www.sig-agi.org/sig-agi/)
主査 ：市瀬 龍太郎（東京工業大学）
主幹事：山川 宏（全脳アーキテクチャ・イニシアティブ）
幹事 ：荒川 直哉（全脳アーキテクチャ・イニシアティブ）
幹事 ：嶋田 悟（エアロセンス）
幹事 ：ジェプカ ラファウ（北海道大学）