Как нейросети пишут стихи?

#1
Видел много раз в интернете новости что нейросети пишут стихи, рассказы, сюжеты к фильмам и тд. Как такую обучить?
 

Денис

Пользователь
#2
Сразу хочу предупредить что вариант который я предложу я придумал сам, он не претендует на идеал хотя возможно его и используют как стандарт.
Входные и выходные нейроны - это слова, нейросеть их не знает, вы сами должны обозначить какой вход/выход какому слову соответствует.
Разберем на примере, допустим нейросеть анализирует стишок, "Ехал грека через реку", как упоминалось каждое слово в данном стишке должно быть прикреплено к соответствующему нейрону входа/выхода, тренировочный сет должен выглядеть приблизительно так:
(слово/сигнал подаваемый на нейрон) -> ответ нейросети
Ехал/0,9; грека/0,8; через/0,7; реку/0,6 -> ответ сети Видит/1,0
сдвигаемся на слово дальше в следующем тренировочном примере -
грека/0,9; через/0,8; реку/0,7; Видит/0,6 -> ответ сети Грека/1,0
еще на слово дальше в следующем тренировочном примере -
через/0,9; реку/0,8; Видит/0,7; Грека/0,6 -> В/1,0
реку/0,9; Видит/0,8; Грека/0,7; В/0,6 -> реке/1,0
То-есть следующее слово должны предсказывать несколько предыдущих слов (количество вы должны выбрать сами)
Не обязательно подавать на нейроны нисходящий сигнал, можно подавать на все слова 1,0 (полный сигнал), так сеть быстрее обучается, но хуже подбирает следующее слово, так как подсказки о порядке слов нет.
В результате получаем сеть которая по предыдущим словам "подсвечивает" следующее слово, или даже несколько слов, таким образом у вас есть пространство для творчества и корректировки.
В случае когда одно и то же слово попадается несколько раз, я пробовал суммировать сигнал повторяющегося слова и еще раз нормализировать входящие сигналы.
 
#3
Хорошо допустим я хочу проанолтзироварь роман война и мир, а после чтобы нейросеть написала мне что то похожее. Неужели придётся прописовадь более 1000 слов(входных нецронов для них). Чтот получается дофига
 

Денис

Пользователь
#4
Име
Хорошо допустим я хочу проанолтзироварь роман война и мир, а после чтобы нейросеть написала мне что то похожее. Неужели придётся прописовадь более 1000 слов(входных нецронов для них). Чтот получается дофига
Именно, и тысячи - это не дофига, даже анализ картинки с 20 миллионами пикселей - тоже не очень много, и конечно же список слов из книги должна составлять программа.
 
#5
Именно, и тысячи - это не дофига, даже анализ картинки с 20 миллионами пикселей - тоже не очень много, и конечно же список слов из книги должна составлять программа.
Есть ли у вас ваша нейронная сеть чтоб продемонстрировать, а то я нифига не понял
 

Денис

Пользователь
#10
Я конечно же всё ещё не тороплю, но ответ затенулся
К сожалению у меня есть возможность работать над проектом только по выходных, к тому-же я не слабо застрял с интерфейсом, так как в десктопных приложениях я новичок. Я по прежнему работаю над проектом, поскольку сам заинтересован.
Если хотите, можете наблюдать за прогрессом здесь:
arachnoden/LyricNN
а если хотите пощупать, то придется собрать и подключить и этот проект:
arachnoden/NeuralNetwork