Отличается ли внимание человека и модели-трансформера?
Публикации с тегом self-attention
SVTR — state-of-the-art нейросеть для задачи OCR +5
Экзибит, прокачай мой трансформер или Основные идеи по улучшению модели трансформера с 2018 по 2020 год (часть 1) +18
Involution: Attention is not what you need, или Как скрестить Self-Attention из NLP и Convolution в задачах CV +13
Сжимаем трансформеры: простые, универсальные и прикладные способы cделать их компактными и быстрыми +16
Чёрный петух, жирный творог и альпийская корова, или Уменьшение предвзятости в классификации токсичности +10
GPT-2 в картинках (визуализация языковых моделей Трансформера) +8
Transformer в картинках +16
