доктор Рагин: Кстати по поводу сложностей с разметкой наборов данных: в генеративных NLP-моделях с этим проблем нет. Скачивание из интернета набор текстов и убираете случайное слово в каждом предложении и дальше учите модель предсказывать слово. Хотя имхо GPT-3 - тупиковый путь. Да эта генервтивная модель чат- бот может писать связные сочинения. Написала прекрасное эссе на тему почему не стоит бояться ИИ. Имхо просто ловкий фокус - имитация сильного ИИ.

Добавлено 11.04.21, 17:02
Тоесть модель научилась предсказывать слова в корпусе текстов и затем пишет сочинение слово за словом по заданному началу (затравке)

https://forum.sources.ru/index.php?showtopic=421329&view=findpost&p=3846217