跳到正文
arXiv · NLP· Project Apertus (ETH Zurich), : (ETH Zurich), Yixuan Xu (ETH Zurich), Yassine Turki (EPFL), Vinko Sabol\v{c}ec (EPFL), Valentina Pyatkin (ETH Zurich), Tommy Chu (EPFL), Sven Najem-Meyer (EPFL), Sean F. Carroll (EPFL), Robert Smith (ETH Zurich), Raphael Kreft (ETH Zurich), Oscar Alessandro Tazza (ETH Zurich), Oleg Lavrovsky (EPFL), Nicola Irmiger (ETH Zurich), Matteo Santelmo (EPFL), Marian Schneider (ETH Zurich), Juan Garc\'ia Giraldo (EPFL), Hanna Yukhymenko (ETH Zurich), Eduard \v{D}urech (ETH Zurich), Davit Melikidze (ETH Zurich), Dani Tamayo (EPFL), Bettina Messmer (EPFL), Aryan Ahadinia (EPFL), Anunay Yadav (EPFL), Allen Huang (EPFL), Ahmad Fraij (ETH Zurich), Alessandro Bombarda (EPFL), Alex Padula (ETH Zurich), Alexander H\"agele (EPFL), Alexander Sternfeld (HES-SO Valais-Wallis), Anna Hedstr\"om (ETH Zurich), Anna Kosovskaia (ETH Zurich), Arthur Wuhrmann (EPFL), Arundhati Balasubramaniam (ETH Zurich), Badr Al Mahouri (EPFL), Barna Pasztor (ETH Zurich), Bartosz Szostakiewicz (ETH Zurich), Bich Ngoc Doan (EPFL), Bryan Schmid (FHNW), Burak Sezen (ETH Zurich), Camille Challier (EPFL), Cl\'ement Charmillot (EPFL), Dana Shayakhmetova (EPFL), Daniel Perruchoud (FHNW), David Br\"uggemann (SDSC), David Isztl (CSCS), Elia Palme (CSCS), Emma Anastassova (EPFL), Fabian B\"osch (CSCS), Faruk Zahiragi\'c (EPFL), Fawzi Roberto Mohamed (CSCS), Fiona Panicali (FHNW), Florian Kolly (EPFL), Flynn Guerra (FHNW), Francesco Monti (EPFL), Frederike L\"ubeck (ETH Zurich), Gennaro Oliva (CSCS), Haofeng Yang (ETH Zurich), Haoliang Shang (ETH Zurich), Helen El Khoury (EPFL), Henrique Mendon\c{c}a (CSCS), Jannis Vamvas (University of Zurich), J\'erome Landolt (FHNW), Jessica Lam (ETH Zurich), Jingchun Xiao (ETH Zurich), Jonathan Coles (CSCS), Joshua Oyebanji (EPFL), Khanh Nguyen (EPFL), Konstantinos Pitas (ETH Zurich), Lasse B. Strand (ETH Zurich), Li Mi (ETH Zurich), Lo\"ic Deslarzes (EPFL), Lorenzo Baggi (ETH Zurich), Lorenzo Noci (ETH Zurich), Luca Baumann (ETH Zurich), Luca Sartori (ETH Zurich), Lukas Drescher (CSCS), Marco De Negri (ETH Zurich), Marco Passerini (CSCS), Mark Klein (CSCS), Marko Stojanovic (EPFL), Martin Majsec (EPFL), Matin Ansaripour (EPFL), Mattea Busato (EPFL), Mauro Pellonara (EPFL), Max Neuwinger (ETH Zurich), Michael Graber (FHNW), Michal Te\v{s}nar (ETH Zurich), Michelle Wastl (University of Zurich), Miguel Gila (CSCS), Mikolaj Boronski (EPFL), Morgane Magnin (EPFL), Moritz Reihs (ETH Zurich), Mukhammadali Sayfiddinov (ETH Zurich), Nathan Ranchin (ETH Zurich, EPFL), Nicolas Cuveillier (EPFL), Oscar Wohlfahrt (EPFL), Qianqian Zou (SDSC), Rada Kamysheva (ETH Zurich), Rita Sevastjanova (ETH Zurich), Roman Machacek (University of Bern), Sebastian Keller (CSCS), Simon Matrenok (EPFL), Simon Pierre (EPFL), Stefano Schuppli (CSCS), Suei-Wen Chen (ETH Zurich), Szabina Horv\'ath-Mikulas (EPFL), Taliesin Perez (EPFL), Thilo Spinner (ETH Zurich), Thomas Kleine Buening (ETH Zurich), Tim Robinson (CSCS), Tymoteusz Kwiecinski (ETH Zurich), Vil\'em Zouhar (ETH Zurich), Vinzenz Thoma (ETH Zurich), Xiaozhe Yao (ETH Zurich), Yannick Metz (ETH Zurich), Yuhei Fukuhara (EPFL), Yusif Askari (EPFL), Zixuan Chen (ETH Zurich), Alexander Ilic (ETH Zurich), Ana Klimovic (ETH Zurich), Andreas Krause (ETH Zurich), Andrei Kucharavy (HES-SO Valais-Wallis), Elliott Ash (ETH Zurich), Joost VandeVondele (CSCS), Martin Rajman (EPFL), Mennatallah El-Assady (ETH Zurich), Thomas Schulthess (CSCS), Timo Kehrer (University of Bern), Torsten Hoefler (ETH Zurich), Antoine Bosselut (EPFL), Martin Jaggi (EPFL), Imanol Schlag (ETH Zurich)·· 7 天前AI 评分43

Apertus 1.5:从开放文本模型迈向开放多模态推理

Apertus 1.5: From Open Text Models to Open Multimodal Reasoners

AI 导读

Apertus 1.5 扩展了完全开源的 Apertus 系列,新增图像和音频理解能力,实现多模态推理。 基于 Apertus 1.0 继续预训练,8B 模型追加 4T tokens,70B 模型追加 2T tokens;上下文窗口扩展四倍至 262,144 tokens,架构保持不变。

来源:arXiv · NLP · arxiv.org