Subject: Re: Ликбез для Альберта 
Replies: 18526 18686
Date   : 15 May 2002 11:17 GMT
From   : Павел Свиридов [ctp] (info@ctp.ru)
To     : Albert R. Timashev [arta] (arta@astrologer.ru)

Здравствуйте, Альберт!

Ваш ответ носит довольно хамский характер, поэтому я мог бы отшлепать вас как
дерзкого и наглого мальчишку, но в отношении infant terrible нашего астроРунета
это было бы неоригинально. И мне говорили, что вы - в целом парень неплохой, вот
только торопливый слишком и немного глухой. Глухой - потому что не слышите
зачастую, ЧТО вам говорят и торопитесь обвинять оппонента в присущих вам
комплексах. Ну, ладно, свои замечания личного характера я сделаю попозже, а пока
постараюсь ответить на ваше главное обвинение -
несоответствие мощности обучающей выборки мощности множества входов сети.  И
хотя мы об этом уже неоднократно говорили, видимо, придется растолковать еще
раз.
       Альберт, вы заявляете, что 'теория нейросетей говорит о том, что мощность
обучающей выборки должна быть в ДЕСЯТЬ раз больше мощности множества входов сети
(т.е. подающихся на вход параметров)'.  Но теория искусственных нейронных сетей
в настоящее время только проходит этап формирования, что обусловливает
разнообразие постановок проблем и основных определений. И вы, Альберт, насколько
мне известно, не являетесь видным корифеем в этой области и вообще поете с
чужого голоса. Исследователи же наделяют искусственные нейроны разнообразными
свойствами, которые, по их мнению, адекватны функциям биологических нейронов и
позволяют получать решение актуальных для исследователя задач. Кроме того,
создаются многочисленные алгоритмы функционирования сетей. Разнообразие этих
алгоритмов, подчеркиваю, ничем и никем не ограничено. Главное, чтобы сеть
соответствовала поставленной задаче и давала приемлемый результат. Если же
вникнуть в суть задачи проектирования нейронных сетей, то результат даваемый
нейросетью напрямую зависит от постановки задачи. Так нейросеть, создаваемая для
задач распознавания, скажем, профессиональных групп (такую попытку сделал
Тарасов), будет в определенной степени отличаться от нейросети, предназначенной
для задач кластеризации и оптимизации. Значительно труднее с задачей
прогнозирования. В принципе из всех известных на сегодняшний день нейронных
сетей для целей прогнозирования подходит сеть с алгоритмом обучения, основанном
на обратном распространении ошибки (Back Propagation). Это означает, что сигнал,
поступающий на вход нейронной сети, распространяется по всем ее слоям и
формирует выходной сигнал. Этот сигнал сравнивается с тестовым, вычисляется
ошибка сети, которая распространяется в обратном направлении. При этом сеть
корректирует значения весовых коэффициентов нейронов во всех слоях. Далее на
первый слой сети подается новый сигнал и вся процедура повторяется, пока сети не
будут предъявлены все примеры из обучающей выборки. Такая совокупность примеров
носит название эпохи (Epoch). Тем не менее, одной эпохи для обучения сети
недостаточно. Действительно, для того, чтобы выучить стихотворение хотя бы в
сотню строк нам приходится повторять чтение многократно. То же и с нейросетью.
Обучающие примеры постоянно повторяются и повторяются, пока нейросеть не сможет
понять и запомнить их все. При этом, чем больше примеров и зависимостей будет
предъявлено, тем дольше будет длиться обучение, если исходить из самого тупого
метода обучения для самого тупого ученика, т.е. данной нейросети. В этом вы
абсолютно правы. Только вы исходите и делаете свои оценки из теории для
гомогенных однородных нейросетей, где все нейроны имеют один коэффициент
передаточной функции и все связаны со всеми. И все типы таких нейросетей
сводятся к трехслойным (т.е. вы с Тарасовым используете, грубо говоря, нейросеть
с принципом ассоциативной памяти). 
Теперь, Альберт, ВНИМАНИЕ! Следите за моими словами и больше не путайте: у нас
неоднородная, негомогенная нейросеть и все оценки получаются только
экспериментальным путем. Нет пока математики для такого типа сетей. Но мы
движемся в этом направлении. 
Существуют и иные алгоритмы обучения, хотя для вас это возможно новость.
Например, алгоритм обучения базовой сети в программе Neuro Hit!, в отличие от
других программ, позволяет изменять не только весовые коэффициенты нейронов, но
также коэффициенты передаточных функций и сам тип функций, что значительно
повышает предсказательную способность сети и избавляет ее от многочисленных
проблем с обучением. Гораздо сложнее с подготовкой данных для нейросети. В
настоящее время для прогнозирования финансовых индексов, котировок акций и
других ценных бумаг на основе астрологических данных создано всего две программы
(Neuro Hit и Almagest Neuro). На первый взгляд отличие в алгоритмах не
существенно. Однако это только на первый взгляд. В основе подготовки данных, то
есть в основе механизма формирования астрологических гипотез, эти программы
категорически расходятся. 
В рамках ввода астрологических данных в нейросеть действительно возможны только
два подхода: подход математика и подход астролога. В первом случае человек,
создающий нейросеть не делает выводов относительно характера и качества
планетарных влияний (аспектов, ингрессий, скоростей планет и т.п.) и
соответственно не закладывает их в нейросеть. Тем не менее, перед ним стоит
вопрос отделения слабозначимых факторов от сильнозначимых. Единственное, что
может сделать в таком случае математик - это провести корреляционный
статистический анализ и на основе статистических данных определить, какие типы
астрологических событий включить в рассмотрение, а какие - нет. При этом
понятно, что для оценки статистических данных необходима большая (как минимум
сотни событий) выборка, найти которую по таким аспектам, как соединение Юпитера
и Сатурна просто нереально, что уж говорить об аспектах высших планет. Еще более
нереально для статистического блока отделить влияние соединения Юпитера с
Сатурном от других планетных влияний. Например, соединение Юпитера с Сатурном
даже при орбисе в 1 градус (а понятие орбиса в астрологии пока еще не кто не
отменял) в мае-июне 2000 года длилось три недели. За это время индекс Dow Jones
многократно менял направление своего движения. Но это не говорит о том, что
аспект указанных планет столько же раз менял свое влияние. Параллельно с ним
действовали другие аспекты. Поэтому определять эффективность аспекта путем
оценки статистики одного этого аспекта, забывая об остальных, в высшей степени
неприемлемо, так как граничит с произволом в выводах. И все попытки так
поступать происходят оттого, что изначально отбрасываются основные парадигмы
астрологии.
     Понимая ущербность указанного подхода, мы (разработчики программы Neuro
Hit!) пошли другим путем. Мы поставили задачу научить нейросеть основам
астрологии, вложить в нее основной набор парадигм, а с их действием на
финансовом рынке предоставить разобраться ей самой. Данный подход сулил большие
перспективы, поясню какие. Те, кто занимается астрологией знают, что ни один
астролог не заучивает интерпретации всех аспектов, а запоминает основные
парадигмы: символику планет, знаков Зодиака, домов, аспектов, крестов, стихий,
ретроградных планет, термов и т.д. Затем он берет символику Юпитера, Сатурна,
аспекта соединение и на их основе строит некий синтез - влияние аспекта. Кроме
того, если это опытный астролог и он знает хотя бы основные положения
финансового анализа, то он задается вопросом, а на что распространяется влияние
данного аспекта, на силу быков, силу медведей, боковой тренд или на общую
ситуацию на рынке. Догадались, Альберт, какие перспективы несет данный подход?
Правильно, при обучении сети Вам не придется грузить в нее данные за несколько
десятков лет. Если нейросеть действительно поймет парадигмы астрологии, то и 4-5
месячного интервала ей будет достаточно, чтобы понять механизм планетарных
влияний и научиться строить интерпретации ингрессий и аспектов самостоятельно.
Ведь речь, в случае 10 планет и мажорных аспектов, будет идти не о том, чтобы
распознать 10 (планет) Х 10 (планет) Х 5 (аспектов) = 500 факторов в случае
аспектов, а с разделением на правые и левые, сходящиеся и расходящиеся в 4 раза
больше, то есть 2000. Ей необходимо будет понять 10 (планет) + 5 (аспектов) = 15
факторов, а с разделением на правые и левые, сходящиеся и расходящиеся +4, то
есть 19 факторов. 2000 и 19 - вот плата за пренебрежение азами астрологии и
чрезмерное увлечение математикой. Создатели программы Neuro Hit! пошли именно по
второму пути. И это еще одна наша фирменная 'фишка'.  Годы труда и поисков не
пропали напрасно. Система создана и дает неплохие результаты. Поэтому
утверждения некоторых нейросетевиков, что они тоже экспериментировали с картами
Кохонена для кластеризации астрологических событий и сжатия количества
рассматриваемых гипотез и не получили результата, выглядят достаточно наивно и
вызывают у профессионалов улыбку. Дело не в картах Кохонена, которые мы, кстати,
не используем, и не в других нейросетевых подходах Хеминга, Хебба и т.п. Дело в
изначальной постановке задачи. Сжать количество гипотез, используя математику
невозможно, так как при этом используются статистические методы, абсурдность
которых в применении к астрологии была показана выше, а нейросеть - существо в
высшей степени нелинейное. Кстати, именно поэтому исследования Гоклена не дали
результата. Он так же подошел к постановке задачи: использовал статистику для
обоснования астрологии и не получил обоснования. А как он мог получить что-то
другое, если астрология, так же как и нейросеть нелинейна. 
Конечно, я понимаю, все эти призывы к написанию открытой научной статьи с
графиками и таблицами продиктованы стремлением узнать, как нам удалось это
сделать. И очень похоже на удивление счастливого обладателя 'Запорожца'  а-ля
'Пук! Пук! И поехал:', провожающего взглядом стремительный контур шестисотого
мерина. Но он же не бежит вприпрыжку и не требует научных статей с объяснением,
почему это так произошло. Понимает, что технология производства другая.
Возможно, на пенсии, когда будет больше нечего делать, я займусь написанием
научных статей, мемуаров. А может и чуть раньше, только вот публиковать я их
буду не на астрологических форумах. Надеюсь, вы не претендуете, Альберт, на то,
что ваш форум носит научный характер? 
Теперь о генетических алгоритмах. 

Re: 'Тренировка нейросети с 400 входами на обучающей выборке мощностью 4000
занимает около 2-3 часов на моем PIII-550 (каюсь, надо делать апгрейд! но даже
если скорость возрастет в 4 раза, "это не спасет отца русской демократии":))).
Теперь представьте, сколько времени нужно, чтобы взять хотя бы несколько
десятков нейросетей (скажем, 20 сетей) и выростить хотя бы несколько их
поколений (одно поколение = 20x(20-1) на 2 часа = 760 часов = 1 месяц)! То есть,
через ОДИН ГОД мы получим 12-ое поколение, и совершенно не факт, что за 12
поколений результат нейросетей заметно возрастет'.

Откуда вы взяли все эти удивительные числа с месяцами и годами селекции? Вот бы
Мичурину рассказать, вот бы он поудивлялся, у него, наверное, быстрее
генетический отбор происходил и без третьего 'пня'. Альберт, вы вообще не
понимаете сути генетических алгоритмов. Во всех книжках написано, что их
обучение идет очень быстро. А если немного помудрить с алгоритмом, то вообще
стремительно. И кто вам сказал, что у нас на входе тысячи нейронов? Десятки,
Альберт, но не тысячи. И позвольте узнать, на какой это программе вы получили
такие дикие числа. В Almagest Neuro насколько я знаю, генетики нет, а на нашей
это еще надо умудриться ТАК посчитать. Это значит совсем не понимать того, что
ты делаешь.

Re: 'Павел, ВЫ ИЗДЕВАЕТЕСЬ??? '

Да, Альберт, немножко издеваюсь. Над вашей самоуверенностью, апломбом,
стремлением поучать всех и вся. Вы, уж, извините великодушно, это я нарочно.
Хотя, то, что вы почувствовали издевку, говорит, что еще не все потеряно. При
личном общении вы производите вполне положительное впечатление. Но вернемся к
нашим числам (цифр всего десять, к сведению). 
80 % точности прогноза - это точность в определении ежедневного направления
тренда на трехнедельном интервале. Т.е. из 15 торговых дней нейросеть определяет
направление тренда   в 12.  Повторяю, не точного значения индекса, а направления
тренда. 
Re:Я считаю, что предсказание по типу "пойдет ли показатель вверх или вниз" AT>
AT> это НОНСЕН. Реальный прогноз должен давать РЕАЛЬНОЕ ЗНАЧЕНИЕ самого AT>
AT> показателя, 
Это вы так считаете, я считаю иначе. И для брокера этой информации больше, чем
достаточно.
В целом у меня сложилось впечатление, что вы с нашей программой не работали,
статей не читали, ссылками не воспользовались. Тогда о чем речь? НейроХит! -
программа сложная, с наскоку ее не возьмешь. Овладение ее требует времени и
усилий, но и результат того стоит. Если хотите, это своего рода защита (ведь
программа открыта) от дилетантов и профанов. Ведь можно дать, но нельзя взять
(пока время не придет и ты не изменишься).  И я доказывать и убеждать никого и
ни в чем не собираюсь. Я также не ищу доказательств того, что астрология
работает и на какой основе, и не веду полемик такого рода ни на каких форумах.
Все ваши рассуждения строятся на тупиковом направлении в нейромоделировании. От
него мы отказались четыре года назад.

И в заключение, личное пожелание. Альберт, научитесь уважать оппонента и
обходиться без огромного количества восклицательных знаков, прописных букв,
обвинений в обмане и т.п. А то, ей-богу, не хочется тратить время на бесплодные
дискуссии. И посылать вас не хочется, потому как, говорят, что вы парень
неплохой:
 
Удачи
Павел Свиридов