Обсуждение:Возможности перцептрона Розенблатта/Решение для "стрелка" и "самолётик"

Вначале нужно рассчитать w:A-матрица перцептрона (там все детально описано) для задачи "стрелка" и "самолетик", сразу после составления рисунка. S.J. 16:06, 13 апреля 2010 (UTC)

Всё написанное выше я построил на своём логическом ходе мысли, после прочтения того матерьяла. Проблема состоит в том, что я мало разбераюсь в формулах, и ещё мне трудно понять в каких случаях берётся +1 в каких -1 и вообще от куда там взялись 2 и 3.. Постораюсь подумать об этом самостоятельно на протяжении ночи, если не засну (хотя, что мне даст заснуть). В противном случае, утром объяснять придётся вам. George 22:02, 13 апреля 2010 (UTC) P.S. И вообще, где все остальные студенты... Почему я думаю за всех? =D George 22:02, 13 апреля 2010 (UTC)

Ок, 1. жду изображение нашего перцептрона, 2. рассчитаную А-матрицу. Еще подсказка: дело в том, что перцептрон описывает только битами, если у нас один выходной элемент R, то выход 0 будет скажем "стрелка", а 1 - "самолетик". Теперь коррекция весов делается если произошла ошибка на выходе, вместо 0 получили 1, или наоборот. Делается так, +1 к весу всех активных А-элементов, если на выходе нужна 1, и -1 если на выходе нужно 0. Остальные студенты халявят, действительно записываются те, кто даже не учился - надо будет почистить ... ну, а вы думаете для себя :) S.J. 22:45, 13 апреля 2010 (UTC)

прошу не ругаться если заставляю вас зря тратить время, но я покачто всёравно не понимаю следущую последовательность решений.. :s George 18:55, 15 апреля 2010 (UTC)

Сравните ваш и мой рисунок, у вас не хватает весовых коэффициентов, и у вас лишние входы и связи, и ЕЩЕ выход тоже должен быть один (для нашего примера)

• Уже кое что. Но рисунок не правильный. Входов так много нету, от того, что мы подаем два образа, число входов не увеличивается подаем на те же самые. Т.е. половину входов и их связей с рисунка удаляйте. Далее каждая связь между точками имеет свой вес, для первого слоя выберается случайно +1 или -1. Поэтому задайте их на рисунке ! Для второго слоя будем искать, но вначале они =0. Далее нужно рассчитать А-матрицу , в чем проблема ? S.J. 20:25, 15 апреля 2010 (UTC)

Заполните таблицу исходных данных входы-выходы. S.J. 20:38, 15 апреля 2010 (UTC)

	Вход 1 (X1)	Вход 2 (X2)	Вход 3 (X3)	Вход 4 (X4)	Вход 5 (X5)	Вход 6 (X6)	Выход
Стимул 1 (стрелка)
Стимул 2 (самолетик)

Далее рассчитать А-матрицу будет просто. S.J. 20:38, 15 апреля 2010 (UTC)

Постарался усовершенствовать, но результат очень мал.. Попробую заполнить таблицу.

Также не понятно каким принципом придаётся + или -1. Зачем? Не могу понять как ставится 1 или на что нужно основываться? George 21:41, 15 апреля 2010 (UTC)

	Вход 1	Вход 2	Вход 3	Вход 4	Вход 5	Вход 6	Выход
Стимул 1 (стрелка)	0	1	0	0	0	0	0
Стимул 2 (самолетик)	0	1	1	1	1	0	1

Уже хорошо. +1 и -1 - это т.н. возбуждающие и тормозящие связи (чтобы определить возбужден ли А-элемент, надо сложить все связи, которые были активированы входами, если будет +1 и -1, то даже при наличии входов реакции не будет! это позволяет избавляться от черезмерной активности на входах, а в А-элементах среднее стабильная активация. каким принципом? - в первом слое случайность), если были бы только +1 то более сложные примеры не могли бы решится. Но данный пример простой, поэтому пускай будут все +1. Теперь - А-матрица ? S.J. 22:38, 15 апреля 2010 (UTC)

Я опять растерялся решая а-матрицу. Т.е. получается что А* будет равна Сумированию умноженных (ради упрощения решения и только в данном задаче) на +1 входов (Х1,Х2,Х3...), и в одной сторчке этой матрицы значений должно быть столько сколько используется А-элем. в перцепртроне, а стимулы в данный момент это фигурки? У меня выходят большие числа, привышающие 2 и 3, да и сама формула

$A^{*}={\begin{pmatrix}x_{1}(St_{1})v_{11}+x_{2}(St_{1})v_{21}&x_{1}(St_{1})v_{12}+x_{2}(St_{1})v_{22}&x_{1}(St_{1})v_{13}+x_{2}(St_{1})v_{23}\\x_{1}(St_{2})v_{11}+x_{2}(St_{2})v_{21}&x_{1}(St_{2})v_{12}+x_{2}(St_{2})v_{22}&x_{1}(St_{2})v_{13}+x_{2}(St_{2})v_{23}\\x_{1}(St_{3})v_{11}+x_{2}(St_{3})v_{21}&x_{1}(St_{3})v_{12}+x_{2}(St_{3})v_{22}&x_{1}(St_{3})v_{13}+x_{2}(St_{3})v_{23}\\\end{pmatrix}}$ ;

тоже немного удлиняется, и не выглядит такой короткой как тут, это нормально? George 23:39, 15 апреля 2010 (UTC)

Типа того, v - все будут 1. Стимулы - это фигурки. числа, привышающие 2 и 3 это нормально для A*, не забудьте перейти к A, там только 0 и 1. Порог по умолчанию $\theta =0$, вы не теряйтесь - показывайте ход вашего решения, и если нужно поправим. S.J. 00:27, 16 апреля 2010 (UTC)

$A^{*}={\begin{pmatrix}0*(-1)+1*(+1)+0*(-1)+0*(+1)+0*(-1)+0*(+1)&0*(+1)+1*(-1)+0*(+1)+0*(-1)+0*(+1)+0*(-1)&0*(+1)+1*(+1)+0*(+1)+0*(+1)+0*(1)+0*(+1)\\0*(-1)+1*(+1)+1*(-1)+1*(+1)+1*(-1)+0*(+1)&0*(+1)+1*(-1)+1*(+1)+1*(-1)+1*(+1)+0*(-1)&0*(+1)+1*(+1)+1*(+1)+1*(+1)+1*(+1)+0*(+1)\\\end{pmatrix}}$ ;

$A^{*}={\begin{pmatrix}1&1&1\\0&0&4\\\end{pmatrix}}$ ;

$A={\begin{cases}1,&if\ a_{ij}^{*}>\theta ,\\0&else\\\end{cases}}$,

где $a_{ij}^{*}$ элемент матрицы A*;

$A={\begin{pmatrix}&A_{1}&A_{2}&A_{3}\\St_{1}&1&1&1\\St_{2}&0&0&1\\\end{pmatrix}}$.

Что не так? George 07:41, 16 апреля 2010 (UTC)

Вы уверены, что Стимул №1 - у Вас стрелка ? (перепутано). Откуда начинаете нумеровать А элементы сверху вниз ? S.J. 07:50, 16 апреля 2010 (UTC)

Откуда взялись -1 если мы договорились, что все веса +1 ? S.J. 07:52, 16 апреля 2010 (UTC)

Правильный ответ (найдите свою ошибку, и поясните в чем она была):

$A={\begin{pmatrix}&A_{1}&A_{2}&A_{3}\\St_{1}&0&1&0\\St_{2}&1&1&1\\\end{pmatrix}}$. S.J. 07:56, 16 апреля 2010 (UTC)

совсем забыл про плюсы, так случается когда я ещё не помыв лица принимаюсь к решениям задач с просони.. ) Если повсюду ставить + то во втором стимуле что-о изменится, но в первом (стрелка, где активным является только один вход, а остольные 0) как не складываю всёравно в порядке А сверу вниз получается (1.1.1). В самолётике (4.4.4) и в итоге =

$A={\begin{pmatrix}&A_{1}&A_{2}&A_{3}\\St_{1}&1&1&1\\St_{2}&1&1&1\\\end{pmatrix}}$. Что-то у меня явно не так как надо.. =D George 08:23, 16 апреля 2010 (UTC)

Вы подумайте чисто логически, стрелка "зажигает" только один S2 элемент, от него есть только одна связь к A2, который и активируется. Как же у вас активируются и A1 и A3 ? Вы складываете нули и получаете 1 :) ((4.4.4) - тоже не верно) S.J. 09:22, 16 апреля 2010 (UTC)

О !!! Я понял почему Вы ошибаетесь, там где нет связи нужно умножать не на -1, и не на +1, а на ноль. S.J. 09:26, 16 апреля 2010 (UTC)

упс, теперь кажется дошло что значит формула и как она работает... Пытаясь разобрать эти минусы и плюсы совсем забыл про логику.. :D Позже для полного усвоения постараюсь написать А-матрицу других фигур а пока полностью соглашусь что $A={\begin{pmatrix}&A_{1}&A_{2}&A_{3}\\St_{1}&0&1&0\\St_{2}&1&1&1\\\end{pmatrix}}$. George 13:02, 16 апреля 2010 (UTC)

Но это чисто логически, а как это должно выглядеть по формуле? $A^{*}={\begin{pmatrix}(12)1*(0)&(12)1*(+1)&(12)1*(0)\\(18)1*(+1)&(12)1*(+1)+(30)1*(+1)&(24)1*(+1)\\\end{pmatrix}}$ ;

$A^{*}={\begin{pmatrix}0&1&0\\1&2&1\\\end{pmatrix}}$ ; $A={\begin{cases}1,&if\ a_{ij}^{*}>\theta ,\\0&else\\\end{cases}}$ Так? Ещё есть куча вопросов по теме и связанных чем-то, куда их всех можно задовать? Откройте страничку, типо "беседки", где можно будет составлять списки вопросов, а знатоки будут стараться отвечать на них..) George 13:31, 16 апреля 2010 (UTC)

Вот теперь правильно. Но надеюсь Вы не забыли, что это только подготовка, а найти нужно весовые коэффициенты второго слоя. Теперь отталкиваемся от матрицы А, и по той же самой логике определяем, что на выходе R, когда подаем стрелку - дает 0, ошибки нет, подаем второй стимул самолетик - ошибка, как изменятся весовые коэффициенты w1, w2 и w3 ? Вопросы пока задавайте здесь, потом попробуем написать т.н. ЧАВО (часто задаваемые вопросы), но без личностно в стиле типовой вопрос-ответ ? S.J. 14:38, 16 апреля 2010 (UTC)

Теоритически:

• Показываем перцептрону объект первого класса. При этом некоторые A-элементы возбудятся. Коэффициенты $w_{i}$, соответствующие этим возбуждённым элементам, увеличиваем на 1.
• Предъявляем объект второго класса и коэффициенты $w_{i}$ тех A-элементов, которые возбудятся при этом показе, уменьшаем на 1.

Но вот рождается вопрос, где и как это нужно сделать? George 16:12, 16 апреля 2010 (UTC)

Вопрос не понятен, примените эту теорию, и рассчитайте весовые коэффициенты w1, w2 и w3. S.J. 17:00, 16 апреля 2010 (UTC)

$\rho _{i}={\begin{cases}+1,ifS_{i}^{+};\\-1,ifS_{i}^{-}.\end{cases}}$

Я хочу спросить, есть ли какаянибудь программа, или можно ли всё это написать на языке програмирования, а если есть, то как это пишется и в чём используется.. Т.Е. для чего нужны перцептроны? :D Для выявления в земной коре полезных ископаемых и распознавания лиц, голосов и отпечатков пальцев? George 17:57, 16 апреля 2010 (UTC)

Готовых программ, для перцептрона я не видел, но написать их конечно можно, это и будет следующим заданием. Задачи решаемые перцептроном различны, но основных две w:Задача классификации и w:Задачи прогнозирования S.J. 18:21, 16 апреля 2010 (UTC)

Веса	Итерации
	1		2		3		4
w1	0	1	1	х	х	х	х	х
w2	0	1	0	х	х	х	х	х
w3	0	1	1	х	х	х	х	х
№ стимула	1	2	1	2	1	2	1	2

Если эта таблица из задачи XOR то я могу с гордостью заявить, что вновь ничего не понял... Как туда вставить полученные коэффициенты и каким методом их уровнить или применить ту теорию? George 18:31, 16 апреля 2010 (UTC)

Вначале размерность, у нас только два стимула. Показываем стрелку - ошибки нет веса не изменяются. Следующий столбик, показываем самолетик, на выходе 0 вместо 1, как изменятся веса ? S.J. 18:55, 16 апреля 2010 (UTC)

Как я понял моя проблема состоит в том что я не знаю весовых коэффицентов Р, так как не пощитал их.. :D Наверно именно это заставило меня подумать от куда взялось три нуля и вообще откуда взялись эти w1,w2,w3.. Но как их собственно получить? темже способом у меня как-то не получается.. :? George 19:42, 16 апреля 2010 (UTC)

Эти w1,w2,w3 - это связи между A1-R, A2-R, A3-R. Вначале они нули. Первый стимул ничего не меняет - ответ правильный коррекции нет. Далее читаем : При этом некоторые A-элементы возбудятся. Коэффициенты $w_{i}$, соответствующие этим возбуждённым элементам, увеличиваем на 1., сколько будет ? Какие А-элементы возбудились при втором стимуле мы знаем из А-матрицы ... S.J. 22:28, 16 апреля 2010 (UTC)

Я понимаю всё что там написанно, но три нуля, они меня убивают... Я два дня бился головой об стенку чтобы достать от кудо-то 0.1.0 и 1.1.1, после ещё один день чтобы понять от куда я их достал.. В это время вы утверждаете что там должно быть три нуля.. как? от куда? 2 входа, 3 "А" один выход он даёт два сигнала если правельно распредилить весы.. веса +1 0 и -1 мы используем только +1, чтобы что? и тогда как можно использовать -1? Меня путают три нуля, если от первого стимула которым я щитал 0.1.0 получился 0.0.0. то что получится от 1.1.1. или почему если изменился первый стимул также может не изменится второй.. Короче я запутался и очень сильно растерялся.. Можно сказать даже в панике.. :D Но если вы всёже умудритесь собрать мои мысли в одно целое уверен что меня озорит и подобными тупыми вопросами больше закидывать не буду.. ((( George 23:03, 16 апреля 2010 (UTC)

Потерял сон, половина четвёртого ночи, смотрю и думаю.. При этом некоторые A-элементы возбудятся. Коэффициенты $w_{i}$, соответствующие этим возбуждённым элементам, увеличиваем на 1. Но тут только нули, которые как видно идут от первого стимула, и не одного "возбуждённого элемента" как видно они равны нулю а значит в состоянии покоя. Тогда что увеличивать? Или увеличить все сразу записав их в первом стимуле второй колонки? Но тогда что делать в следующих 2 колонках и как поступать со вторым стимулом, предстовления о котором вообще покачто не имею... В то время это всего лишь простейший перцептрон работу которого я должен понимать также как 1+1=2, таких перцептронов ещё много тамже и другие матрицы и они ещё сложнее а потом сеть перцептронов, да я не сомниваюсь в их возможностях. Моя задача придумать вещь по круче, совершенствовать или как минимум научится эфективно обращаться с ними.. Но пока я их даже уровнить не могу.. :D Знете Сергей Сергеевич, вы говорили про интузиазм, говоря чтобы он у меня не угас в скором времени, в то время как он только начинает рости.. Но кажется интузиазмом придётся запастись вам.. :D George 23:55, 16 апреля 2010 (UTC)

Да все проще, чем вы тут наворотили, первый слой мы УЖЕ рассчитали, НЕ ПУТАЙТЕ его сюда. Мы сейчас считаем ВТОРОЙ слой. Вначале там нету связей - нули! Затем мы их изменяем, чтобы получить требуемый нам выход. Я написал ответ. Второй стимул активировал все А-элементы (теперь А-элементы являются входами), значит к тому чтобы было (нулям) прибавляем 1, получаем все единицы, идем на вторую итерацию, снова показываем первый стимул - получаем ошибку - на выходе дает 1, а нужно ноль, активирован только второй А элемент - уменьшаем вес на единицу. Ответ получен, теперь на первый стимул - выход 0, на второй 1. S.J. 01:06, 17 апреля 2010 (UTC)

Но тут только нули, которые как видно идут от первого стимула, и не одного "возбуждённого элемента" как видно они равны нулю а значит в состоянии покоя. - ВОТ грубая ошибка, смотрите на А-матрицу , как это не одного возбужденного элемента ? Там что в А-матрице есть строка из нулей !? S.J. 01:14, 17 апреля 2010 (UTC)

а почему итерации четыре? И почему еденици добавили к w1, w3 а к w2 не добавили? Если мы уже имеем на ыходе 0 и 1 то что делать с оставшимися столбиками? George 09:39, 17 апреля 2010 (UTC)

Число итераций не известно - до отсутствия ошибок, 4 - это просто заготовка места. Вы не внимательны, вначале единицы добавили ко всем, а лишь затем отняли от w2. S.J. 10:04, 17 апреля 2010 (UTC)

теперь кажется всё понятно.. Хотелось бы как-нибудь закрепить матерьял.Нашёл сайт, перейдите по этой ссылке, кажется там пытаются объяснить всё и сразу.. Решил показать, прежде чем самому ознакомиться..

Обсуждение

itak, vsoio xorosho ia jiv i proshu prosheniia chto ne mogu pisat' kirilicei.. chto kasaetsia modeli vospriiatiia informacii, delo za delom no uglublenie v etu temu zainteresuet i uvlechiot lybogo kto peresilit svoy len', no xochu pointeresovat'sia odnim voprosom... Kak nashiot ponimaniia vosprinitoi informacii i eio perevarivaniia, priniatiia reshenii i dal'neishego razvitiia? dumay s etim perceptron nam ne smojet nikak pomoch.. Takje proshu prosheniia za moio dolgoe otsutstvie, mogu uznat' kak obstoiat dela na nashem fakul'tete, mogu li ia vozobnovit' aktivnuy uchiobu? — Эта реплика добавлена участником Felix.bloom (о · в)

Перцептрон, воспринимая информацию, строит модель. Наличие модели о внешнем мире позволяет ему прогнозировать ситуацию. Умея прогнозировать ситуацию, делается решение и проверяется - эффективно ли оно. Тут уже надо изучить другие алгоритмы, например, Q-learning. Постарайтесь писать кириллицей. S.J. 22:56, 22 сентября 2010 (UTC)