نشست سوم: آشنایی با معماری Encoder-Decoder و مکانیزم توجه (Attention)

در این جلسه علاوه بر آشنایی با معماری Encoder-Decoder برای حل مسائل Seq2Seq به مکانیزم Attention، کاربرد آن و روش افزودن آن به RNN ها و LSTM ها پرداخته‌ایم. منابع اضافه‌ برای مطالعه‌ی بیش‌تر: https://lena-voita.github.io/nlp_course/seq2seq_and_attention.html https://distill.pub/2016/augmented-rnns/ https://sebastianraschka.com/blog/2023/self-attention-from-scratch.html?utm_source=substackutm_medium=email

• #تحصیلات_و_یادگیری
• #attention
• #encoder_decoder
• #transformer
• #seq2seq
• #lstm