В этом видео мы узнаем как нейросети работают с текстом, разберемся с рекуррентными сетями, узнаем, что такое механизм аттеншена и трансформер, а так же поймем как работает GPT(и chatGPT) и T5(Gemini).
Смотрите ниже тайминги.
Первая часть • Как работает ИИ #1: чт...
Instagram / i.v.efimov
Telegram t.me/simpleautogroup
Тексты cartoonpoems
Музыка
/ llm
/ aida-insight
Другие проекты:
/ @cartoonpoems
/ cartoonpoems
00:55 Recurent Neural Networks(RNN)
03:28 Условная вероятность
05:44 Recurrent Neuron
07:05 Back propagation through the time
08:25 RNN Architectures
09:19 Bi-directional RNN
10:03 LSTM Neuron
12:12 GRU Neuron
12:41 Encoder-Decoder, translation
15:36 Greedy and Exhaustive search
17:20 Beam search
18:12 Sampling, Temperature, Top k
20:14 Attention mechanism
25:44 General Attention, Query/Key/Value
26:23 Self Attention
27:46 Multi-Head attention
28:24 Transformer Encoder
29:37 Transformer Decoder
31:28 GPT 1, Chat Gpt
33:17 Pretraining, Finetuning
34:55 Tokenization
35:39 BPE
36:33 GPT 2
37:29 GPT 3
37:50 Sparse Attention
38:20 GPT 3.5
39:11 GPT 4, GPT 5
39:42 BERT
40:24 T5(Gemini)
41:01 Bonus
#simpleautomation #chatgpt #ии #искусственныйинтеллект #ai #llm #большаяязыковаямодель #recurrent #rnn #transformers #трансформеры #gpt
Негізгі бет Как работает ИИ #2: Большие языковые модели(LLM), ChatGPT, Gemini и другие
Пікірлер