LLM2017
Attention Is All You Need
Vaswani et al.
Paper revolusioner yang memperkenalkan arsitektur Transformer, fondasi dari semua model bahasa modern seperti GPT dan BERT.
Paper Breakdowns
Riset AI terkini dengan penjelasan mudah dipahami
4 papers tersedia
LLM2021
LoRA: Low-Rank Adaptation
Hu et al.
Teknik fine-tuning yang efisien dengan menambahkan low-rank matrices ke pretrained weights, mengurangi parameter trainable hingga 10.000x.
Agents2022
ReAct: Reasoning and Acting
Yao et al.
Framework yang menggabungkan reasoning traces dengan action sequences, memungkinkan LLM untuk berinteraksi dengan tools dan environment.
NLP2020
RAG: Retrieval-Augmented Generation
Lewis et al.
Arsitektur yang menggabungkan retrieval dengan generation, memungkinkan model untuk mengakses knowledge base eksternal.