Přejít na obsah

Studentské práce

Detail studentské práce

Název: Neuronové sítě pro zpracování přirozeného jazyka
Typ práce: Projekt 5 , Bakalářská práce
Obor: UI
Rok zadání: 2022/2023
Zadáno: zadáno J. Čedík
Dokončeno: dokončeno 2022/2023
Zadavatel: Bulín Martin

Detail

Postup práce

  1. Nastudujte nejnovější metody v oblasti neuronových sítí pro zpracování přirozeného jazyka, zaměřte se na metody “text-to-text” a metody klasifikace textu

  2. Seznamte se s principy použití T5 (Text-to-Text Transfer Transformer) a naučte se pracovat s katedrálním rozhraním pro dotrénování T5

  3. Nasbírejte vhodná data, sestavte automatickou chatovací platformu a vytvořte pro ni webové uživatelské rozhraní

  4. Vyberte vhodnou metodu filtrace nevhodných odpovědí a vyhodnoťte její přínos

  5. Vyhodnoťte možnosti aplikace použitých metod na Raspberry Pi


Literatura

  1. Bishop, C. (1995). Neural networks for pattern recognition. Oxford University Press, USA.

  2. Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2018). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. CoRR, abs/1810.04805. http://arxiv.org/abs/1810.04805

3. Raffel, C., Shazeer, N., Roberts, A., Lee, K., Narang, S., Matena, M., … Liu, P. J. (2019). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. CoRR, abs/1910.10683. http://arxiv.org/abs/1910.10683