「ACL 2023でのGoogle」

Google at ACL 2023

投稿者: Malaya Jules、プログラムマネージャー、Google

今週、自然言語処理に関する計算言語学の第61回年次総会（ACL）がオンラインで開催されます。ACLは、自然言語に対する計算的アプローチに関心のある広範な研究分野をカバーする主要な学会です。

自然言語処理と理解のリーダーであり、ACL 2023のダイヤモンドレベルのスポンサーであるGoogleは、50以上の研究発表とさまざまなワークショップやチュートリアルへの積極的な参加とともに、この分野の最新の研究を紹介します。

ACL 2023に登録されている場合、Googleブースにぜひお立ち寄りいただき、何十億もの人々のために興味深い問題を解決するためのGoogleのプロジェクトについて詳しく学んでいただければと思います。以下でGoogleの参加についてもっと詳しく知ることもできます（Googleの関連情報は太字で表示されます）。

• GoogleがACL 2023に参加します
• 「Amazon SageMakerトレーニングワークロードで@remoteデコレータを使用してプライベートリポジトリにアクセスする」
• 「Amazon SageMakerのトレーニングワークロードで、@remoteデコレータを使用してプライベートリポジトリにアクセスする」

ボードと組織委員会

エリアチェアには、Dan Garrette、ワークショップチェアには、Annie Louis、発表チェアには、Lei Shu、プログラム委員には、Vinodkumar Prabhakaran、Najoung Kim、Markus Freitagが含まれています。

注目論文

NusaCrowd: インドネシアNLPリソースのオープンソースイニシアチブ Samuel Cahyawijaya, Holy Lovenia, Alham Fikri Aji, Genta Winata, Bryan Wilie, Fajri Koto, Rahmad Mahendra, Christian Wibisono, Ade Romadhony, Karissa Vincentio, Jennifer Santoso, David Moeljadi, Cahya Wirawan, Frederikus Hudi, Muhammad Satrio Wicaksono, Ivan Parmonangan, Ika Alfina, Ilham Firdausi Putra, Samsul Rahmadani, Yulianti Oenang, Ali Septiandri, James Jaya, Kaustubh Dhole, Arie Suryani, Rifki Afina Putri, Dan Su, Keith Stevens, Made Nindyatama Nityasya, Muhammad Adilazuarda, Ryan Hadiwijaya, Ryandito Diandaru, Tiezheng Yu, Vito Ghifari, Wenliang Dai, Yan Xu, Dyah Damapuspita, Haryo Wibowo, Cuk Tho, Ichwanul Karo Karo, Tirana Fatyanosa, Ziwei Ji, Graham Neubig, Timothy Baldwin, Sebastian Ruder, Pascale Fung, Herry Sujaini, Sakriani Sakti, Ayu Purwarianti

密な検索のためのテスト時クエリ表現の最適化 Mujeen Sung, Jungsoo Park, Jaewoo Kang, Danqi Chen, Jinhyuk Lee

提案レベルのセグメンテーションと含意認識のための大規模コーパス PropSegmEnt: Sihao Chen*, Senaka Buthpitiya, Alex Fabrikant, Dan Roth, Tal Schuster

少ない訓練データと小さなモデルサイズでより大規模な言語モデルを上回るステップバイステップの蒸留! Cheng-Yu Hsieh*, Chun-Liang Li, Chih-Kuan Yeh, Hootan Nakhost, Yasuhisa Fujii, Alex Ratner, Ranjay Krishna, Chen-Yu Lee, Tomas Pfister

制御可能な作業メモリを備えた大規模言語モデル Daliang Li, Ankit Singh Rawat, Manzil Zaheer, Xin Wang, Michal Lukasik, Andreas Veit, Felix Yu, Sanjiv Kumar

Abstractive Opinion Summarizationのためのエンテイルメントベースのセルフトレーニング OpineSum: Annie Louis, Joshua Maynez

要約評価のための情報検索技術の活用 RISE: David Uthus, Jianmo Ni

信頼性のある単一のテストセットからp値を推定するためのリーダーボードと応答分散を考慮した手法 Shira Wein*, Christopher Homan, Lora Aroyo, Chris Welty

SamToNe：同じタワーネガティブとのデュアルエンコーダー検索モデルのコントラスティブ損失の改善 Fedor Moiseev、Gustavo Hernandez Abrego、Peter Dornbach、Imed Zitouni、Enrique Alfonseca、Zhe Dong

論文

ヘイスタックの中の針を探す：PaLMの翻訳能力における偶発的なバイリンガリズムの役割 Eleftheria Briakou、Colin Cherry、George Foster

翻訳のためのPaLMのプロンプト：戦略とパフォーマンスの評価 David Vilar、Markus Freitag、Colin Cherry、Jiaming Luo、Viresh Ratnakar、George Foster

閉書式長形式QAのためのクエリの絞り込みプロンプト Reinald Kim Amplayo、Kellie Webster、Michael Collins、Dipanjan Das、Shashi Narayan

オープンドメインの質問応答におけるドメイン適応のための適応または注釈：課題と介入 Dheeru Dua*、Emma Strubell、Sameer Singh、Pat Verga

少数のショットリージョン重視機械翻訳のためのベンチマーク（ブログ投稿を参照） Parker Riley、Timothy Dozat、Jan A. Botha、Xavier Garcia、Dan Garrette、Jason Riesa、Orhan Firat、Noah Constant

質問応答設計図による条件付き生成 Shashi Narayan、Joshua Maynez、Reinald Kim Amplayo、Kuzman Ganchev、Annie Louis、Fantine Huot、Anders Sandholm、Dipanjan Das、Mirella Lapata

シーケンスツーシーケンス遷移ベースシステムによる共参照解決 Bernd Bohnet、Chris Alberti、Michael Collins

低リソース依存構造解析のための言語固有のサブネットワークを用いたクロスリンガル転送 Rochelle Choenni、Dan Garrette、Ekaterina Shutova

タスク志向対話のための両方向対応マルチリンガルパーサー William Held*、Christopher Hidey、Fei Liu、Eric Zhu、Rahul Goel、Diyi Yang、Rushin Shah

言語モデルが言うことを研究し、改訂するためのRARR：言語モデルを使用して Luyu Gao*、Zhuyun Dai、Panupong Pasupat、Anthony Chen*、Arun Tejasvi Chaganty、Yicheng Fan、Vincent Y. Zhao、Ni Lao、Hongrae Lee、Da-Cheng Juan、Kelvin Guu

条件付き生成のための大規模言語モデルの能力のベンチマーク Joshua Maynez、Priyanka Agrawal、Sebastian Gehrmann

マルチタスクファインチューニングによるクロスリンガル汎化 Niklas Muennighoff、Thomas Wang、Lintang Sutawika、Adam Roberts、Stella Biderman、Teven Le Scao、M. Saiful Bari、Sheng Shen、Zheng Xin Yong、Hailey Schoelkopf、Xiangru Tang、Dragomir Radev、Alham Fikri Aji、Khalid Almubarak、Samuel Albanie、Zaid Alyafeai、Albert Webson、Edward Raff、Colin Raffel

パラメトリックと文脈的な知識の分離によるカウンターファクトウィズクエスチョンアンサリング Ella Neeman、Roee Aharoni、Or Honovich、Leshem Choshen、Idan Szpektor、Omri Abend

エンティティ選択のための間接的な参照表現の解決 Mohammad Javad Hosseini, Filip Radlinski, Silvia Pareti, Annie Louis

SeeGULL: 幅広い地理文化的カバレッジを持つステレオタイプベンチマークの生成モデルを活用したベンチマーク Akshita Jha*, Aida Mostafazadeh Davani, Chandan K Reddy, Shachi Dave, Vinodkumar Prabhakaran, Sunipa Dev

社会的バイアスのベンチマークのデータセット構築バイアスの犬の尾 Nikil Selvam, Sunipa Dev, Daniel Khashabi, Tushar Khot, Kai-Wei Chang

文字認識モデルによるビジュアルテキストのレンダリングの向上 Rosanne Liu, Dan Garrette, Chitwan Saharia, William Chan, Adam Roberts, Sharan Narang, Irina Blok, RJ Mical, Mohammad Norouzi, Noah Constant

少数の言語モデルの微調整のための冷たいスタートデータの選択: プロンプトベースの不確実性伝播アプローチ Yue Yu, Rongzhi Zhang, Ran Xu, Jieyu Zhang, Jiaming Shen, Chao Zhang

回答評価のためのギャップに焦点を当てた質問生成の非一般的な領域のカバー Roni Rabin, Alexandre Djerbetian, Roee Engelberg, Lidan Hackmon, Gal Elidan, Reut Tsarfaty, Amir Globerson

フォーム文書情報抽出のためのマルチモーダルグラフコントラスティブ学習 FormNetV2 Chen-Yu Lee, Chun-Liang Li, Hao Zhang, Timothy Dozat, Vincent Perot, Guolong Su, Xiang Zhang, Kihyuk Sohn, Nikolay Glushinev, Renshen Wang, Joshua Ainslie, Shangbang Long, Siyang Qin, Yasuhisa Fujii, Nan Hua, Tomas Pfister

方言に頑健な生成テキストの評価 Jiao Sun*, Thibault Sellam, Elizabeth Clark, Tu Vu*, Timothy Dozat, Dan Garrette, Aditya Siddhant, Jacob Eisenstein, Sebastian Gehrmann

大型言語モデルの限界: 代名詞の理解におけるMISGENDERED Tamanna Hossain, Sunipa Dev, Sameer Singh

自然言語における自動推論のための後方連鎖 LAMBADA Mehran Kazemi, Najoung Kim, Deepti Bhatia, Xin Xu, Deepak Ramachandran

トランスフォーマーにおける効率的なマルチセグメントエンコーディング LAIT Jeremiah Milbauer*, Annie Louis, Mohammad Javad Hosseini, Alex Fabrikant, Donald Metzler, Tal Schuster

コード生成を介したモジュラーなビジュアル質問応答 (ブログポストを参照) Sanjay Subramanian, Medhini Narasimhan, Kushal Khangaonkar, Kevin Yang, Arsha Nagrani, Cordelia Schmid, Andy Zeng, Trevor Darrell, Dan Klein

チェーンオブソートプロンプティングの理解に向けて Boshi Wang, Sewon Min, Xiang Deng, Jiaming Shen, You Wu, Luke Zettlemoyer and Huan Sun

Better Zero-Shot Reasoning with Self-Adaptive Prompting Xingchen Wan*、Ruoxi Sun、Hanjun Dai、Sercan Ö. Arik、Tomas Pfister

事実に基づいた要約の強化学習による一貫性 Paul Roit、Johan Ferret、Lior Shani、Roee Aharoni、Geoffrey Cideron、Robert Dadashi、Matthieu Geist、Sertan Girgin、Léonard Hussenot、Orgad Keller、Nikola Momchev、Sabela Ramos、Piotr Stanczyk、Nino Vieillard、Olivier Bachem、Gal Elidan、Avinatan Hassidim、Olivier Pietquin、Idan Szpektor

インタラクティブなデータサイエンスノートブックにおける自然言語からコード生成 Pengcheng Yin、Wen-Ding Li、Kefan Xiao、Abhishek Rao、Yeming Wen、Kensen Shi、Joshua Howland、Paige Bailey、Michele Catasta、Henryk Michalewski、Oleksandr Polozov、Charles Sutton

小さな言語モデルに推論を教える Lucie Charlotte Magister*、Jonathan Mallinson、Jakub Adamek、Eric Malmi、Aliaksei Severyn

ドメイン知識を用いた対話構造の導出におけるニューラル確率的ソフトロジックのガイド Connor Pryor*、Quan Yuan、Jeremiah Liu、Mehran Kazemi、Deepak Ramachandran、Tania Bedrax-Weiss、Lise Getoor

要約のためのMTurkにおける高い同意のある労働者の分析 Lining Zhang、Simon Mille、Yufang Hou、Daniel Deutsch、Elizabeth Clark、Yixin Liu、Saad Mahamood、Sebastian Gehrmann、Miruna Clinciu、Khyathi Raghavi Chandu、João Sedoc

Industry Track papers

差分プライバシーを用いたGboard言語モデルのフェデレーテッドラーニング Zheng Xu、Yanxiang Zhang、Galen Andrew、Christopher Choquette、Peter Kairouz、Brendan McMahan、Jesse Rosenstock、Yuanbo Zhang

知識拡張されたビジョン言語モデルのKAFA: 画像広告理解の再考 Zhiwei Jia*、Pradyumna Narayana、Arjun Akula、Garima Pruthi、Hao Su、Sugato Basu、Varun Jampani

ACL Findings papers

事実の一貫性評価を伴う多言語要約 Roee Aharoni、Shashi Narayan、Joshua Maynez、Jonathan Herzig、Elizabeth Clark、Mirella Lapata

堅牢な持続的多言語学習のためのパラメータ効率なファインチューニング Kartikeya Badola、Shachi Dave、Partha Talukdar

FiDO: より強力なパフォーマンスと高速な推論のためのデコーダーにおける融合最適化 Michiel de Jong*、Yury Zemlyanskiy、Joshua Ainslie、Nicholas FitzGerald、Sumit Sanghai、Fei Sha、William Cohen

コード生成におけるバイアスを見つけるためのシンプルかつ効果的なアプローチ　Spyridon Mouselinos、Mateusz Malinowski、Henryk Michalewski

BIG-Benchの課題への挑戦と考えの連鎖がそれらを解決できるかどうか　Mirac Suzgun、Nathan Scales、Nathanael Scharli、Sebastian Gehrmann、Yi Tay、Hyung Won Chung、Aakanksha Chowdhery、Quoc Le、Ed Chi、Denny Zhou、Jason Wei

QueryForm：シンプルなゼロショットフォームエンティティクエリフレームワーク　Zifeng Wang*、Zizhao Zhang、Jacob Devlin、Chen-Yu Lee、Guolong Su、Hao Zhang、Jennifer Dy、Vincent Perot、Tomas Pfister

ReGen：進行的な密集フィードバックを用いたトレーニングデータ生成によるゼロショットテキスト分類　Yue Yu、Yuchen Zhuang、Rongzhi Zhang、Yu Meng、Jiaming Shen、Chao Zhang

ヘブライ語NLPのための多言語シーケンスツーシーケンスモデル　Matan Eyal、Hila Noga、Roee Aharoni、Idan Szpektor、Reut Tsarfaty

言語モデルにおける質問応答のためのマルチホップ推論のトリガリング：ソフトプロンプトとランダムウォークを用いて　Kanishka Misra*、Cicero Nogueira dos Santos、Siamak Shakeri

チュートリアル

自然言語における複雑な推論　Wenting Zhao、Mor Geva、Bill Yuchen Lin、Michihiro Yasunaga、Aman Madaan、Tao Yu

言語モデルからテキストを生成する　Afra Amini、Ryan Cotterell、John Hewitt、Clara Meister、Tiago Pimentel

ワークショップ

シンプルで効率的な自然言語処理（SustaiNLP）　主催：Tal Schuster

オンラインでの虐待と被害に関するワークショップ（WOAH）　主催：Aida Mostafazadeh Davani

ドキュメントに基づく対話と対話型質問応答（DialDoc）　主催：Roee Aharoni

対話型AIのためのNLP　主催：Abhinav Rastogi

計算と書かれた言語（CAWL）　主催：Kyle Gorman、Brian Roark、Richard Sproat

計算形態論と音韻論（SIGMORPHON）　講演者：Kyle Gorman

ナラティブ理解に関するワークショップ（WNU）　主催：Elizabeth Clark

---

* Googleでの作業

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!