یادگیری تحت نظارت در شبکه های عصبی سنبله با آموزش نیرو

جمعیت نورون ها تنوع خارق العاده ای در رفتارهایی که بر آنها تأثیر می گذارد و نمایش می دهد نشان می دهد. تکنیک های یادگیری ماشین اخیراً پدید آمده است که به ما امکان می دهد شبکه هایی از نورونهای مدل ایجاد کنیم که رفتارهای پیچیدگی مشابه را نشان می دهند. در اینجا ما کاربرد مستقیم یک تکنیک چنین ، روش نیرو را در شبکه های عصبی سنبله نشان می دهیم. ما این شبکه ها را آموزش می دهیم تا از سیستم های دینامیکی تقلید کنیم ، ورودی ها را طبقه بندی کنیم و توالی های گسسته ای را که مطابق با یادداشت های یک آهنگ است ، ذخیره کنیم. سرانجام ، ما از آموزش نیرو برای ایجاد دو مدار مدل با انگیزه بیولوژیکی استفاده می کنیم. یکی از آن الهام گرفته از Zebra Finch است و آواز Songbird را با موفقیت بازتولید می کند. شبکه دوم توسط هیپوکامپ انگیزه دارد و برای ذخیره و پخش مجدد یک صحنه فیلم آموزش دیده است. شبکه های آموزش دیده ، رفتارهای قابل مقایسه با پیچیدگی با مدارهای الهام گرفته خود را تولید می کنند و اطلاعاتی را به دست نمی آورند که به راحتی با سایر تکنیک ها ، مانند پاسخ های رفتاری به دستکاری های دارویی و آمار زمان بندی سنبله قابل دستیابی نیستند.

معرفی

انسان ها به طور طبیعی می توانند یاد بگیرند که طیف گسترده ای از کارها را به سرعت و کارآمد انجام دهند. مثالها شامل یادگیری دنباله پیچیده حرکات به منظور گرفتن یک ضربه سیلی در هاکی یا یادگیری برای پخش مجدد نت های یک آهنگ پس از کلاس موسیقی است. در حالی که رویکردهایی برای حل این مشکلات مختلف در زمینه هایی مانند یادگیری ماشین ، تئوری کنترل و غیره وجود دارد ، انسان از ابزاری بسیار مجزا برای حل این مشکلات استفاده می کند: شبکه عصبی سنبله.

اخیراً ، طبقه گسترده ای از تکنیک ها به دست آمده است که به ما امکان می دهد یک رفتار یا پویایی خاص را بر روی یک شبکه عصبی 1،2،3،5،6،7،8،9،10 اعمال کنیم. این تکنیک های از بالا به پایین با یک کار در نظر گرفته شده شروع می شود که یک شبکه عصبی مکرر سنبله باید انجام دهد و تعیین کند که برای دستیابی به این هدف چه نقاط قوت ارتباط بین نورون ها باید باشد. رویکردهای غالب در حال حاضر روش نیرو 1،2 ، شبکه های برنامه نویسی مبتنی بر سنبله یا پیش بینی 5،6،7 و چارچوب مهندسی عصبی (NEF) 8،9 است. هر دو رویکرد برنامه نویسی مبتنی بر NEF و سنبله بینش قابل توجهی در مورد عملکرد شبکه داشته اند. مثالها شامل نحوه سازماندهی شبکه ها برای حل مشکلات رفتاری 8 یا پردازش اطلاعات به روشهای قوی اما متابولیکی کارآمد 5،6 است.

در حالی که رویکردهای برنامه نویسی مبتنی بر NEF و سنبله باعث ایجاد شبکه های سنبله کاربردی می شوند ، آنها نسبت به شبکه اصلی نورونها نسبت به شبکه اصلی نیستند (اگرچه برای پیشرفت های اخیر به Refs 6،11،12 مراجعه کنید). دوم ، برای استفاده از هر رویکرد ، باید از نظر معادلات دیفرانسیل با فرم بسته مشخص شود. این یک محدودیت در مورد مشکلات احتمالی این شبکه ها می تواند حل کند (اگرچه برای پیشرفت های اخیر به 7،13 مراجعه کنید). با وجود این محدودیت ها ، هر دو تکنیک برنامه نویسی مبتنی بر NEF و Spike منجر به تجدید حیات در تجزیه و تحلیل از بالا به پایین عملکرد شبکه 3 شده اند.

خوشبختانه ، آموزش نیرو نسبت به شبکه مورد نظر یا کارهایی که شبکه باید حل کند ، آگنوستیک است. با سرچشمه در زمینه محاسبات مخزن ، آموزش نیرو از یک سیستم دینامیکی ابعادی بالا استفاده می کند و از این دینامیک های پیچیده سیستم برای انجام محاسبات 1،14،15،16،18،19،21،22،23،24،25 استفاده می کند. بشربر خلاف سایر تکنیک ها ، رفتار هدف لازم نیست به عنوان یک معادله دیفرانسیل فرم بسته برای آموزش مشخص شود. تمام آنچه برای آموزش لازم است یک سرپرست برای ارائه سیگنال خطا است. استفاده از هر سیستم دینامیکی ابعادی بالا به عنوان یک مخزن باعث می شود روش نیرو برای بسیاری از انواع شبکه بیشتر اعمال شود در حالی که استفاده از سیگنال خطا برنامه های بالقوه این شبکه ها را گسترش می دهد. متأسفانه ، آموزش نیرو فقط به طور مستقیم در شبکه های معادلات با نرخ اجرا شده است که از نظر پدیدارشناختی نشان می دهد که چگونه نرخ شلیک به طور هموار در زمان متفاوت است ، با کار کمی در اجرای شبکه های سنبله در ادبیات (اگرچه برای پیشرفت های اخیر به 2،4 مراجعه کنید).

ما نشان می دهیم که آموزش نیرو می تواند به طور مستقیم در شبکه های سنبله اعمال شود و در برابر پیاده سازی های مختلف ، مدل های نورون و سرپرستان بالقوه قوی است. برای نشان دادن پتانسیل این شبکه ها ، ما دو شبکه سنبله را که از نظر بیولوژیکی با انگیزه هستند ، آموزش می دهیم. اولین مورد از این مدارها با مدار Zebra Finch HVC-RA مطابقت دارد و رفتار آواز را بازتولید می کند در حالی که مدار دوم از هیپوکامپ الهام گرفته شده و رمزگذاری می کند و یک صحنه فیلم را تکرار می کند. برای تعیین چگونگی عملکرد مدار قوی پس از آموزش ، هر دو مدار را می توان آشفته کرد.

نتایج

ماتریس وزن آموزش نیرو

ما پتانسیل روش نیرو را در آموزش شبکه های عصبی سنبله برای انجام یک کار دلخواه بررسی کردیم. در این شبکه ها ، ماتریس وزن سیناپسی مجموع مجموعه ای از وزن های استاتیک و مجموعه ای از وزن های آموخته شده ω = GΩ 0 + qηα T است. وزن استاتیک ، GΩ 0 تنظیم شده است تا شبکه را به صورت هرج و مرج هرج و مرج 26،27،28 کند. مؤلفه آموخته وزن ، ϕ ، با استفاده از یک روش یادگیری نظارت شده به نام مربعات حداقل بازگشتی (RL) به صورت آنلاین تعیین می شود. کمیت ϕ همچنین به عنوان یک رمزگذار خطی برای دینامیک شبکه عمل می کند. پارامتر η ترجیحات تنظیم نورون ها را به اصطلاح بازخورد آموخته شده تعریف می کند. اجزای η استاتیک و همیشه به طور تصادفی ترسیم شده اند. پارامترهای G و Q به ترتیب تعادل نسبی بین هرج و مرج القا کننده ماتریس استاتیک و اصطلاح بازخورد آموخته شده را کنترل می کنند. پارامترها با جزئیات بیشتری در بخش روشها مورد بحث قرار می گیرد. هدف RLS به حداقل رساندن خطای مربع بین دینامیک شبکه ( سمت چپ (() است.<hat x(t)> راست) ) و دینامیک هدف (یعنی کار ، x (t)) (شکل 1a) 29،30. این روش موفقیت آمیز است اگر دینامیک شبکه بتواند هنگام خاموش شدن RLS ، پویایی هدف را تقلید کند. ما سه نوع مدل یکپارچه و آتش سنبله را در نظر گرفتیم: مدل تتا ، یکپارچه سازی و آتش سوزی (LIF) و مدل Izhikevich (برای توضیح دقیق تر به بخش روش ها مراجعه کنید). پارامترهای این مدل ها را می توان در جدول 1 یافت. تمام شبکه های در نظر گرفته شده محدود به اندازه واسطه بودند (1000-5000 نورون) و میانگین شلیک متوسط پس از آموزش دارند (τ_R= 2 ms و τ_D= 20 میلی ثانیه با مقادیر دیگر در نظر گرفته شده در مواد تکمیلی. کد مورد استفاده برای این مقاله را می توان در ModelDB (31) ، تحت شماره الحاق 190565 یافت.

شبکه های سنبله آموزش دیده با استفاده از هرج و مرج یاد می گیرند

ما به دنبال این بودیم که با توجه به قابلیت های چشمگیر این تکنیک در آموزش سیستم های صاف معادلات با نرخ (شکل 1) که قبلاً در Ref نشان داده شده بود ، می تواند شبکه های عصبی سنبله را آموزش دهد. 1ما روش نیرو را در شبکه های مختلف عصبی سنبله نورون های یکپارچه و آتش به منظور مقایسه استحکام روش در مدلهای عصبی و سرپرستان بالقوه پیاده سازی کردیم.

اول ، برای نشان دادن ماهیت هرج و مرج این شبکه ها ، ما یک سنبله واحد را در شبکه 33 حذف کردیم. پس از حذف ، قطارهای سنبله حاصل بلافاصله متفاوت می شوند و این نشان دهنده رفتار هرج و مرج است (شکل 2A). برای تعیین اینکه در کجا شروع هرج و مرج به عنوان تابعی از G رخ داده است ، ما شبکه های این نورونها را بر روی طیف وسیعی از پارامترهای G شبیه سازی کردیم و ضرایب تغییر و توزیع بین فاصله (ISI) را محاسبه کردیم (شکل مکمل 1). برای سلولهای عصبی Izhikevich و Theta ، شروع فوری برای هرج و مرج هرج و مرج از سکونت (10 ≈ 3 ، به ترتیب 0. 02 G ≈) به عنوان جریان تعصب برای این مدل ها در Rheobase یا آستانه قرار گرفت. برای مدل LIF ، ما شبکه هایی را با هر دو جریان سوگیری فوق العاده و آستانه در نظر گرفتیم (برای پارامترها به جدول 1 مراجعه کنید). در مورد فوق العاده ، LIF از سنبله تونیک به سنبله هرج و مرج منتقل می شود (0. 04 G). مورد زیر آستانه از نظر کیفی شبیه به مدل نورون تتا بود ، با انتقال به سنبله هرج و مرج در یک G-Value کوچک (0

برای مجبور کردن قطار شبکه های سنبله هرج و مرج ، از کار اصلی در Ref استفاده کردیم. 1 به عنوان راهنما برای تعیین رژیم پارامتر برای (g ، q). در مرجع. 1 ، سهم ورودی های سیناپسی استاتیک و آموخته شده از همان بزرگی است. به طور مشابه ، ما برای اطمینان از تعادل مناسب ، مقیاس Q را مقیاس می کنیم (به روش های مربوط به مشتق در مورد نحوه مقیاس Q مراجعه کنید). سرانجام ، آموزش نیرو در Ref. 1 با تثبیت سریع نرخ کار می کند. تغییرات وزن بعدی به تثبیت ماتریس وزن اختصاص داده شده است. برای یادگیری سریع ، RLS باید در مقیاس زمانی سریعتر در شبکه های سنبله در مقابل شبکه های نرخ اعمال شود (

با استفاده از این اصلاحات به روش نیرو ، ما با موفقیت شبکه هایی از نورونهای تتا سنبله را برای تقلید از انواع مختلف نوسان ساز آموزش دادیم. مثالها شامل سینوسوئیدها در فرکانس های مختلف ، نوسانات اره ، نوسان سازهای ون در پولز ، علاوه بر آموزش سیگنال هایی با سر و صدای موجود است (شکل 2B). با ثابت شدن زمان پوسیدگی 20 میلی ثانیه ، محصول نوسان ساز Sines چالشی را برای نورون تتا برای یادگیری ارائه داد. با این حال ، می توان آن را برای شبکه با ثابت زمان پوسیدگی بزرگتر حل کرد (شکل 2 ، جدول تکمیلی 1). تمام نوسان سازهای شکل 2B با موفقیت برای هر دو مدل Izhikevich و LIF Neuron آموزش دیده بودند (شکل 2C ، شکل 2 ، جدول تکمیلی 1). علاوه بر این ، آموزش نیرو به انواع احتمالی حالتهای اولیه شبکه هرج و مرج قوی بود (شکل مکمل 3) 27،28. سرانجام ، یک پارامتر سه پارامتر بر فراز (g ، q ، τ_D) فضای پارامتر نشان می دهد که مناطق پارامتر برای همگرایی متناقض هستند. این رفت و برگشت پارامتر برای سرپرستان سینوسی در فرکانس های مختلف (1 ، 5 ، 10 ، 20 و 40 هرتز) انجام شد. نوسان سازهای دارای فرکانس بالاتر (پایین) بیش از مناطق پارامتر بزرگتر (g ، q) در شبکه هایی با ثابت تر زمان پوسیدگی سیناپسی سریعتر (کندتر) ، τ آموخته می شوند._D(شکل های تکمیلی 4-6). سرانجام ، ما مقایسه کردیم که چگونه مقادیر ویژه ماتریس های وزن آموزش دیده متنوع است (مواد تکمیلی ، شکل تکمیلی شکل 7). برای شبکه های سنبله ، ما مشاهده می کنیم که در برخی موارد ، سیستم های بدون مقادیر ویژه غالب بهتر از سیستم هایی با مقادیر ویژه غالب عمل می کنند در حالی که در موارد دیگر برعکس درست بود.

برای پویایی مورد نظر ، مدل Izhikevich بیشترین دقت و سریعترین زمان آموزش را داشت (شکل مکمل 4-6 ، جدول تکمیلی 2). این تا حدی به این دلیل است که نورون Izhikevich دارای تطبیق فرکانس سنبله است که در مقیاس زمانی طولانی تر عمل می کند (یعنی 100 میلی ثانیه). مقیاس طولانی مدت توانایی مخزن را برای حافظه فراهم می کند و به آن امکان یادگیری سیگنال های طولانی تر را می دهد. علاوه بر این ، ابعاد مخزن با داشتن یک متغیر سازگاری برای هر نورون افزایش می یابد.

ما تعجب کردیم که چگونه نرخ همگرایی این شبکه ها به عنوان تابعی از اندازه شبکه ، N ، برای هر دو شبکه آموزش دیده و شبکه های مختلف متفاوت خواهد بود (شکل 8). برای یک سرپرست سینوسی 5 هرتز ، شبکه های سنبله دارای میزان همگرایی ≈ N-1/2 در L بودند₂خطاشبکه های نرخ نرخ همگرایی مرتبه بالاتری داشتند ، از ≈ N-1 در L₂خطا

از آنجا که نوسان سازها سیستم های دینامیکی ساده هستند ، ما می خواستیم ارزیابی کنیم که آیا نیرو می تواند یک شبکه عصبی سنبله را برای انجام کارهای پیچیده تر آموزش دهد. بنابراین ، ما دو کار اضافی را در نظر گرفتیم: بازتولید پویایی برای یک سیستم هرج و مرج کم بعدی و طبقه بندی آماری ورودی های اعمال شده برای شبکه نورون ها. ما شبکه ای از نورونهای تتا را با استفاده از سیستم لورنز به عنوان سرپرست آموزش دادیم (شکل 2D). این شبکه می تواند پس از یادگیری ، جاذبه پروانه و مسیرهای شبیه لورنز را بازتولید کند. از آنجایی که سرپرست پیچیده تر بود ، این آموزش طولانی تر طول کشید و به نورون های بیشتری نیاز داشت (5000 نورون ، 45 ثانیه آموزش) اما هنوز هم موفق بود. علاوه بر این ، سیستم لورنز همچنین می تواند با شبکه ای از 5000 نورون LIF آموزش داده شود (شکل مکمل 9). برای تعیین کمیت خطا و مقایسه آن با یک شبکه با نرخ ، ما یک متریک مبتنی بر چگالی جاذبه (مواد تکمیلی) برای عملکردهای چگالی حاشیه ای در جاذبه ایجاد کردیم. شبکه سنبله عملکرد قابل مقایسه ای با شبکه نرخ داشت (0. 27 ، 0. 30 ، 0. 24 برای نرخ و 0. 52 ، 0. 38 ، 0. 3 برای سنبله). علاوه بر این ، شبکه های سنبله و نرخ هر دو قادر به بازسازی نقشه چادر کلیشه لورنز بودند ، البته با عملکرد برتر در شبکه نرخ (شکل مکمل 9). سرانجام ، ما نشان دادیم که جمعیت نورون ها می توانند به زور آموزش داده شوند تا از نظر آماری ورودی ها را طبقه بندی کنند ، مشابه یک شبکه استاندارد خوراک (یادداشت مکمل 2 ، شکل های تکمیلی. 10-13).

ما می خواستیم تعیین کنیم که آیا آموزش نیرو می تواند برای تولید ماتریس های وزنی که به قانون دالس احترام می گذارند ، سازگار شود ، محدودیت اینکه یک نورون فقط می تواند تحریک کننده یا مهاری باشد ، نه هر دو. بر خلاف کار قبلی 2 ، ما تصمیم گرفتیم که قانون DALES را به صورت پویا اجرا کنیم زیرا این شبکه آموزش داده شد (یادداشت تکمیلی 2 ، مکمل شکل 13). گزارش (L₂) خطا در فاصله آزمون برای این سرپرست 34 - 34 بود ، که با مقادیر موجود در شکل 6 قابل مقایسه است. در حالی که قانون دالس می تواند اجرا شود ، برای سادگی ، ما تمام نمونه های باقی مانده را با ماتریس های وزن غیرقانونی آموزش می دهیم.

به طور خلاصه ، برای این سه مدل نورون مختلف ، ما نشان داده ایم که می توان از روش نیرو برای آموزش یک شبکه سنبله با استفاده از یک سرپرست استفاده کرد. سرپرست می تواند نوسان ، پر سروصدا ، هرج و مرج باشد و آموزش می تواند به شکلی اتفاق بیفتد که به قانون دالس احترام بگذارد.

آموزش شبکه های سنبله برای تولید سیگنال های پیچیده

نورون ها می توانند توالی های زمانی پیچیده مانند آهنگ های جفت گیری را که Songbirds یاد می گیرند ، ذخیره می کنند و پخش می کنند ، رمزگذاری کنند. ما تعجب کردیم که آیا نیرو می تواند شبکه های سنبله را برای رمزگذاری انواع مشابهی از توالی های فضایی و زمانی که به طور طبیعی رخ می دهد ، آموزش دهد. ما این را به عنوان نوسانات بسیار طولانی که بارها به شبکه ارائه می شود ، فرموله کردیم.

اولین الگویی که در نظر گرفتیم دنباله ای از پالس ها در یک سرپرست 5 بعدی بود. این پالس ها با یادداشت ها در اولین نوار ODE بتهوون به شادی مطابقت دارند. شبکه ای از نورونهای Izhikevich با موفقیت مجبور به آموزش اود به شادی شد (به شکل 3A ، C ، D 82 ٪ دقت در طول آزمایش مراجعه کنید). میانگین میزان شلیک شبکه پس از آموزش 34 هرتز بود (شکل 3B) ، با تنوع در پاسخ های عصبی از پخش مجدد تا پخش مجدد ، اما در عین حال یک هیستوگرام زمان پایدار پری سیمولوس تشکیل می شود (شکل مکمل. 14-16). علاوه بر این ، ODE به شادی می تواند توسط تمام مدلهای نورون در ثابت زمان پوسیدگی سیناپسی (τ) آموخته شود (τ_d= 50 ، 100 ms ، به شکل های تکمیلی مراجعه کنید. 4-6).

در حالی که شبکه در پخش مجدد آهنگ خطایی به نمایش گذاشت ، خطاها تصادفی نبودند بلکه کلیشه ای بودند. این خطاها در درجه اول پس از دو تکرار نت غیرقانونی الکترونیکی که در نوار اول رخ می دهد و انتهای نوار سوم (شکل های تکمیلی 14 ، 15) علاوه بر توالی های غیر Unique ED که در پایان رخ می دهد ، قرار دارد. از نوار دوم و آغاز نوار چهارم.

شبکه های آموزش دیده نیرو می توانند آواز خواندن آهنگ را تولید کنند

در حالی که مثال Ode to Joy برای آموزش غیر مهم بود ، اما از پیچیدگی آواز خواندن گورخر استفاده می کند. برای این منظور ، ما یک مدار ساختیم که می تواند یک پرنده پرنده (به شکل طیف سنجی) ضبط شده از یک گورخر بزرگسالان را تولید کند. رفتار آواز آموخته این پرندگان به دو هسته اصلی مدیون است: HVC (نام مناسب) و هسته قوی Arcopallium (RA). نورونهای پیش بینی شده RA در HVC زنجیره ای از فعالیت های سنبله را تشکیل می دهند و هر یک از نورون های RA را که در یک زمان خاص در آهنگ 35،36 قرار دارد ، آتش می گیرد. این زنجیره شلیک به مدار RA منتقل شده و فعال می شود. هر نورون RA در چندین زمان دقیقاً تعریف شده در طول پخش ترانه 37 ترکیده است. سلولهای عصبی RA سپس به هسته های حرکتی تحتانی که باعث تحریک عضلات صوتی برای تولید پرندگان می شود ، طراحی می شوند.

برای ساده سازی مسائل ، ما روی یک شبکه واحد از نورونهای RA که زنجیره ای از ورودی ها را از منطقه HVC دریافت می کنند ، تمرکز خواهیم کرد (شکل 4A). زنجیره ورودی های HVC به طور مستقیم به عنوان یک سری پالس های پی در پی مدل می شوند و برای سادگی نیرو نمی گیرند. این پالس ها به شبکه ای از نورونهای Izhikevich که با موفقیت آموزش داده شده بود برای تولید مثل طیف سنجی یک آهنگ ضبط شده از یک گورخر بزرگسال بزرگسالان آموزش داده شد (شکل 4B ، به فیلم تکمیلی 1 مراجعه کنید). علاوه بر این ، با تغییر پارامترهای (g ، q) و برخی از پارامترهای مدل izhikevich ، آمار سنبله نورونهای RA به راحتی از نظر کیفی و کمی بازتولید می شوند (شکل 4D ، E inset ، به شکل 2b ، c در Ref 37 مراجعه کنید. شکل 1 در Ref. 37). نورونهای RA در هنگام پخش مجدد آهنگ به طور مرتب چندین بار پشت سر می گذارند (شکل 4B ، C). بنابراین ، ما شبکه مدل خود را آموزش داده ایم تا با رفتار تولید آهنگ RA با رفتار سنبله ای مطابقت داشته باشد که مطابق با داده های تجربی باشد.

ما تعجب کردیم که چگونه شبکه ما به دستکاری های احتمالی در ماتریس های وزن زیرین پاسخ خواهد داد. به طور خاص ، ما دستکاری ها را به سیناپسهای تحریکی در نظر گرفتیم که تعادل بین تحریک و مهار در شبکه را تغییر می دهد (شکل 4F). ما دریافتیم که این شبکه نسبت به کاهش وزن سیناپسی تحریک آمیز است. این شبکه هنوز هم می تواند این آهنگ را تولید کند ، البته با شدت کمتری. این حتی در شرایطی که سیناپسهای تحریکی 90 ٪ از دامنه آنها کاهش می یابد (شکل 4F ، G) ممکن بود. با این حال ، سیناپسهای تحریک آمیز بالا به اندازه 15 ٪ عملکرد آهنگ به شدت کاهش می یابد. خروجی آهنگ حاصل از ساختار طیفی بسیار متفاوتی نسبت به سرپرست بر خلاف تحریک پایین آمدن داشت. سرانجام ، افزایش وزن های تحریک آمیز 20 ٪ برای از بین بردن آواز کافی بود ، و آن را با تشنج با شدت زیاد مانند فعالیت جایگزین کرد. جالب اینجاست که نتیجه مشابهی از طریق تزریق بیکچولین در RA 38 به صورت تجربی یافت شد. دوزهای زیادی از بیكوكولین منجر به فعالیت شدید پشت سر هم در RA همراه با آوازهای غیر ارادی شد. دوزهای کوچکتر منجر به تخریب آهنگ با افزایش صدا ، مدت زمان و ظاهر هجاهای جدید شد.

سیگنال های زمانی با ابعاد بالا آموزش نیرو را بهبود می بخشد

ما از اینکه عملکرد شبکه Songbird چقدر قدرتمند و ساختار پیچیده خروجی را نشان داد ، تعجب کردیم. ما فرض کردیم که عملکرد این شبکه به شدت با ورودی های دقیق و شبیه به ساعت ارائه شده توسط HVC همراه است و ورودی های مشابه می توانند در رمزگذاری و پخش مجدد انواع دیگر اطلاعات کمک کنند. برای آزمایش این فرضیه ، ما الگوی ورودی HVC را حذف کردیم و دریافتیم که پخش مجدد آهنگ آموخته شده از بین رفته است (نشان داده نشده است) ، مشابه ضایعه آزمایشی این منطقه در قناری های بزرگسالان 39. با توجه به اطلاعات زمانی که این سیگنالهای با ابعاد بالا ارائه می دهند ، ما متعاقباً به آنها به عنوان سیگنال های زمانی با ابعاد بالا مراجعه خواهیم کرد (HDTS ، برای جزئیات بیشتر به بخش روش ها مراجعه کنید).

برای کشف بیشتر مزایایی که ممکن است HDTS فراهم کند ، ما شبکه ای از نورونهای Izhikevich را مجبور کردیم تا HDT های خاص خود را تولید کنند ، در حالی که همزمان نیز آن را آموزش می دهد تا اولین نوار Ode را به شادی بازتولید کند. کل سرپرست علاوه بر 16 مؤلفه دیگر ، شامل 5 یادداشت مورد استفاده در نوار اول آهنگ بود. اینها با دنباله ای از 16 پالس که زمان پارتیشن است مطابقت دارد. این شبکه هم HDTS و هم آهنگ را همزمان ، با زمان آموزش کمتری و دقت بیشتری نسبت به HDTS آموخت. از آنجا که HDTS در یادگیری و پخش مجدد اولین نوار یک آهنگ کمک کرد ، از این سوال پرسیدیم که آیا این سیگنال ها می توانند در رمزگذاری سکانس های طولانی تر کمک کنند. برای آزمایش این فرضیه ، ما یک شبکه را مجبور کردیم تا چهار میله اول Ode را به شادی بیاموزیم ، که علاوه بر HDT های 64 بعدی ، با یک آهنگ 16 ثانیه نیز مطابقت دارد. شبکه با موفقیت آموختگی آهنگ پس از آموزش ، بدون هیچ گونه خطایی در دنباله یادداشت ها به رغم طول و پیچیدگی دنباله (به شکل 17 ، فیلم مکمل 2 مراجعه کنید). بنابراین ، یک HDT های تولید شده داخلی می توانند آموزش نیرو را سریعتر ، دقیق تر و قوی تر برای یادگیری سیگنال های طولانی تر کنند. ما به این شبکه ها به عنوان HDT های داخلی تولید می شود.

نیروهای رمزگذاری و پخش مجدد یک حافظه اپیزودیک

با توجه به پیشرفت هایی که یک HDTS در طول مدت زمان سرپرست ، زمان آموزش و صحت ، ما می خواستیم بدانیم که آیا این سیگنال های ورودی به جمعیت نورون ها برای یادگیری سیگنال های ابعادی بالا طبیعی کمک می کند. برای آزمایش این ، ما شبکه ای از نورونهای Izhikevich را آموزش دادیم تا یک سرپرست بعدی 1920 را بیاموزیم که مطابق با پیکسل های یک صحنه 8 ثانیه از یک فیلم باشد (شکل 5). هر مؤلفه سرپرست با تکامل زمان یک پیکسل واحد مطابقت دارد. HDTS یا توسط یک شبکه جداگانه تولید می شد یا مستقیماً به عنوان ورودی به یک شبکه رمزگذاری و پخش مجدد تغذیه می شد ، مانند مثال Songbird (شکل 5A ، B). ما به ترتیب به این دو مورد به عنوان HDT های داخلی تولید شده و خارجی تولید می شود. در مورد قبلی ، ما نشان می دهیم که HDTS را می توان به راحتی توسط یک شبکه یاد گرفت در حالی که در مورد دوم می توانیم HDT ها را آزادانه دستکاری کنیم. همانطور که در مثال طولانی به شادی ، HDT ها نیز می توانند به طور همزمان در صحنه فیلم آموخته شوند و یک سرپرست بعدی در سال 1984 را تشکیل می دهند (HDT های بعدی 64 + 64 بعدی ، شکل 18C ، D). توجه داشته باشید که این امر را می توان به عنوان پخش خود به خود تصور کرد ، بر خلاف فراخوان Cued که در آن شبکه یک محرک جزئی ارائه شده را بازسازی می کند.

ما از تعجب دیدیم که علی رغم پیچیدگی و ابعاد بالای سیگنال رمزگذاری ، هیستوگرام بارهای سنبله در سراسر شبکه پخش مجدد یک مدولاسیون 4 هرتز قوی را که توسط HDT ها اعطا شده است ، نشان می دهد. این هیستوگرام را می توان به عنوان میانگین فعالیت شبکه تفسیر کرد. با کمال تعجب ، کاهش دامنه HDTS باعث کاهش مداوم عملکرد پخش مجدد می شود (شکل 5D). در ابتدا ، این با کاهش دامنه نوسانات 4 هرتز در میانگین فعالیت جمعیت آینه می شود. با کمال تعجب اگر HDT ها را حذف کنیم ، میانگین فعالیت یک نوسان کندتر قوی تر (2 هرتز) را نشان می دهد (شکل 5F). ظهور این نوسانات کندتر مربوط به کاهش شدید عملکرد پخش مجدد است زیرا صحنه ها دیگر به ترتیب زمانی دوباره پخش نمی شوند (شکل 5F). سنبله ها همچنین با توجه به میانگین فعالیت توزیع نشده بودند (شکل 19).

ما می خواستیم تعیین کنیم که چگونه از بین بردن نورون ها در شبکه پخش مجدد می تواند بر میانگین فعالیت جمعیت و عملکرد پخش مجدد تأثیر بگذارد. ما دریافتیم که عملکرد پخش مجدد تقریباً به صورت خطی با نسبت سلولهای عصبی که ضایعه شده اند ، کاهش می یابد ، با دامنه میانگین فعالیت نیز کاهش می یابد (شکل 5E ، F). اما شبکه HDTS نسبت به ضایعات عصبی بسیار حساس تر بود. ما دریافتیم که 10 ٪ از انتخاب تصادفی نورون ها در شبکه HDTS برای متوقف کردن خروجی HDTS کافی است. بنابراین ، شبکه HDTS عنصر مهمی در این مدار است که می تواند پخش دقیق را انجام دهد و نسبت به آشفتگی های آسیب رسان مانند از دست دادن عصبی حساس ترین است. سرانجام ، ما تعجب کردیم که چگونه فرکانس و دامنه HDT ها (و بنابراین میانگین فعالیت) باعث تغییر دقت یادگیری یک شبکه می شود (شکل مکمل 18). یک فرکانس ورودی بهینه در محدوده 8-16 هرتز برای مناطق بزرگ فضای پارامتر واقع شده است. این به پارامترهای مختلف عصبی قوی بود (شکل مکمل 18).

It has been speculated that compressed or reversed replay of an event might be important for memory consolidation 40,41 . Thus we wondered if networks trained with an HDTS could replay the scene in accelerated time by compressing the HDTS post-training. After training, we compressed the exteal HDTS in time (Fig. 5c). The network was able to replay the movie in compressed time (correlation of r>0. 8) تا یک فاکتور فشرده سازی 16 × با دقت کاهش یافته برای فشرده سازی بیشتر. تأثیر فشرده سازی زمان بر میانگین فعالیت ، معرفی نوسانات فرکانس بالاتر بود (شکل مکمل شکل 20 ، شکل 5F). فراوانی این نوسانات به صورت خطی با میزان فشرده سازی مقیاس می شود. با این حال ، با افزایش فرکانس فشرده سازی ، امواج بزرگ فعالیت هماهنگ نیز در میانگین فعالیت جمعیت پدیدار می شوند (شکل مکمل 20 ، شکل 5F). پخش مجدد معکوس نیز با معکوس کردن نظمی که اجزای HDTS به شبکه ارائه می شود با موفقیت حاصل شد (دقت R = 0. 90). این ضرر در دقت به این دلیل است که پویایی زمانی شبکه در بخشی از HDT ها برعکس نمی شود. بنابراین ، این شبکه می تواند با وجود اینکه برای انجام این کارها آموزش دیده است ، به فشرده سازی محکم یا پخش مجدد معکوس تعمیم دهد.

فشرده سازی یک توالی وابسته به کار از شلیک به صورت تجربی در منابع بیشماری 40،42،43 یافت شده است. به عنوان مثال ، در Ref. 40 ، نویسندگان دریافتند که یک توالی ضبط شده از همبستگی های صلیب عصبی در موش های منتخب در طی یک کار توالی مکانی که در زمان فشرده شده در طول خواب دوباره ظاهر می شوند. نسبت فشرده سازی بین 5. 4 و 8. 1 و توالی های فشرده شده که در ابتدا 10 ثانیه پایین بودند تا 1. 5 ثانیه. این شبیه به نسبت های فشرده سازی است که ما برای شبکه های خود پیدا کردیم بدون اینکه خطای قابل توجهی در پخش مجدد داشته باشد (تا یک فاکتور فشرده سازی 8-16). فشرده سازی زمان و اتساع نیز به صورت تجربی در استریاتوم 42،44 یافت شده است. در اینجا ، نویسندگان دریافتند که توالی شلیک عصبی برای نورونهای جسم مخطط به طور مستقیم در زمان 42 فشرده می شود. در واقع ، ما همچنین دریافتیم که پخش مجدد صحنه فیلم ، رفتار سنبله را برای سلولهای عصبی در شبکه پخش مجدد فشرده می کند (شکل مکمل 20).

به طور خلاصه ، HDTS برای رمزگذاری و پخش مجدد محرکهای طبیعی ابعادی بالا ضروری است. این کلیپ های فیلم را می توان به عنوان پروکسی برای خاطرات اپیزودیک تصور کرد. فشرده سازی و وارونگی HDTS اجازه می دهد تا مجدداً فشرده و معکوس پروکسی حافظه را پخش کنید. در نسبت فشرده سازی پایین ، میانگین فعالیت جمعیت HDT ها را در حالی که در نسبت فشرده سازی بالاتر (8 ×) نشان می دهد ، وقایع هماهنگ بزرگ در میانگین فعالیت پدیدار می شود که با هر پخش فیلم تکرار می شود. فرکانس بهینه HDTS بیشتر در محدوده پارامتر 8-16 هرتز سقوط می کند.

بحث

ما نشان داده ایم که آموزش نیرو می تواند در ابتدا شبکه های هرج و مرج از سلولهای عصبی سنبله را انجام دهد و از آنها برای تقلید از وظایف و عملکردهای طبیعی نشان داده شده توسط جمعیت نورون ها استفاده کند. به عنوان مثال ، این شبکه ها برای یادگیری سیستم های دینامیکی کم بعدی ، مانند نوسان سازها که در قلب تولید حرکت ریتمیک و غیر ریتمیک 45 قرار دارند ، آموزش داده شدند. ما دیدیم که آموزش نیرو به مدل سنبله استفاده شده ، حالتهای اولیه شبکه و انواع اتصال سیناپسی قوی است.

علاوه بر این ، ما نشان دادیم که می توانیم شبکه های سنبله را آموزش دهیم تا رفتارهایی را فراتر از پویایی کم بعدی با تغییر سرپرست استفاده شده برای آموزش شبکه نشان دهیم. به عنوان مثال ، ما یک طبقه بندی آماری را با شبکه ای از نورونهای Izhikevich آموزش دادیم که می تواند ورودی های آن را تبعیض قائل شود. گسترش مفهوم نوسان ساز حتی بیشتر به ما این امکان را می داد تا یک دنباله پیچیده را در قالب نت های یک آهنگ ذخیره کنیم ، رفتار آواز خواندن آهنگ ها را تولید کنیم و یک صحنه فیلم را رمزگذاری و پخش کنیم. این کارها با درج یک سیگنال زمانی با ابعاد بالا (HDTS) کمک می کنند که با تفکیک نورون ها در مجامع ، زمان را گسسته می کند.

آموزش نیرو یادآور چگونگی یادگیری آهنگ های Songbirds آهنگ های آموخته شده کلیشه ای 35،46 است. آوازهای نوجوان معمولاً با یک آهنگ خاص و یا کارنامه ترانه های والدین یا سایر اعضای گونه خود با یک آهنگ خاص یا کارنامه ارائه می شوند. این پرندگان آهنگ اصلی الگوی را درونی می کنند و متعاقباً از آن به عنوان سیگنال خطا برای آواز خود استفاده می کنند 35،36،37،39،46،47،48،49. مدل ما رفتار آواز خواندن آهنگ های آهنگ را با آموزش نیرو به عنوان مکانیسم تصحیح خطا بازتولید کرد. هر دو آمار سنبله منطقه RA و طیف سنجی آهنگ پس از آموزش نیرو به طور دقیق بازتولید شدند. علاوه بر این ، ما نشان دادیم که تغییر تعادل بین تحریک و آموزش پس از مهار ، رفتار آواز را پس از آموزش تخریب می کند. تغییر به تحریک بیش از حد ، طیف سنجی را به روشی بسیار غیرخطی تغییر می دهد در حالی که تغییر به مهار بیش از حد دامنه همه فرکانس ها را کاهش می دهد.

با الهام از الگوی ورودی ساعت مانند که آهنگ های آهنگ برای یادگیری و پخش مجدد 35. 36 از HDT های مشابه برای رمزگذاری یک توالی طولانی تر و پیچیده تر از یادداشت ها علاوه بر صحنه ای از یک فیلم استفاده کردیم. ما دریافتیم که این سیگنال ها آموزش نیرو را سریعتر و پخش مجدد بعدی دقیق تر می کنند. علاوه بر این ، با دستکاری فرکانس HDTS متوجه شدیم که می توانیم با روشی قوی ، سرعت پخش فیلم را سریع یا معکوس کنیم. ما دریافتیم که پخش مجدد فشرده سازی منجر به نوسانات فرکانس بالاتر در میانگین فعالیت جمعیت می شود. ضعف HDT ها در حالی که میانگین فعالیت از یک نوسان 4-8 هرتز به نوسان کندتر (≈ 2 هرتز) را کاهش می دهد ، عملکرد پخش مجدد را کاهش می دهد. سرانجام ، پخش مجدد این فیلم نسبت به نورونهای ضایعه در شبکه پخش قوی بود.

در حالی که شبکه حافظه اپیزودیک ما با هیچ منطقه خاص هیپوکامپ همراه نبود ، وسوسه انگیز است که چگونه می توان نتایج ما را در چارچوب ادبیات هیپوکامپ تفسیر کرد. به طور خاص ، ما دریافتیم که HDTS در میانگین فعالیت جمعیتی که یادآور نوسانات آهسته تتا مشاهده شده در هیپوکامپ است ، نوسان آهسته ای را اعطا می کند. نوسان تتا به شدت با حافظه همراه است. با این حال ، نقش محاسباتی آن به طور کامل درک نشده است ، در حالی که بسیاری از تئوری ها 50،51،52،53 را پیشنهاد کرده اند. به عنوان مثال ، نوسان تتا پیشنهاد شده است که به عنوان یک ساعت برای تشکیل حافظه 50،54 باشد.

در اینجا ، ما یک مثال مشخص را نشان می دهیم که محرک های طبیعی که به عنوان پروکسی برای خاطرات خدمت می کنند ، می توانند در یک جمعیت نورون به نوسان اساسی محدود شوند. نوسان نورون ها را مجبور می کند در مجامع زمانی گسسته آتش سوزی کنند. نوسان (از طریق HDTS) قابل استفاده است ، یا حتی معکوس می شود و در نتیجه دستکاری یکسان از حافظه است. علاوه بر این ، ما دریافتیم که کاهش ورودی HDTS به شدت باعث پخش مجدد و میانگین نوسان جمعیت می شود. این نتایج آزمایشی آینه هایی که نشان داد قدرت تتا پیش بینی کننده پخش صحیح 55 است. علاوه بر این ، مسدود کردن HDTS از یادگیری جلوگیری می کند و از پخش مجدد دقیق با شبکه های آموزش داده شده با HDTS موجود جلوگیری می کند. مسدود کردن نوسانات تتا هیپوکامپ از نظر فارماکولوژیکی 56 یا اپتوژنتیک 57 نیز برای ایجاد اختلال در یادگیری پیدا شده است.

نقش HDTS یادآور کشف اخیر سلولهای زمانی است ، که همچنین برای تقسیم خود در یک بازه زمانی در کارهای حافظه اپیزودیک 58،59،60 است. نحوه تشکیل سلول های زمانی ، تحقیقات مداوم است ، اما آنها به سپتوم داخلی وابسته هستند و بنابراین نوسان تتا هیپوکامپ 61. سلولهای زمانی در CA1 58 ، CA3 62 یافت شده است و سلولهای انتخابی به طور موقت در قشر آنتورینال 63 رخ می دهد.

در یک زمینه وسیع تر ، از شبکه های آموزش دیده نیرویی می توان در آینده برای روشن کردن عملکردهای هیپوکامپ استفاده کرد. به عنوان مثال ، شبکه های آموزش دیده نیروی آینده می توانند از محدودیت های بیولوژیکی مانند قانون دیل در تلاش برای تولید مثل توزیع سنبله تأیید شده برای انواع نورون مختلف با توجه به مرحله نوسان تتا 64 استفاده کنند. این شبکه ها همچنین می توانند به صراحت ساخته شوند تا اجزای مختلف مدار هیپوکامپ به خوبی مورد مطالعه قرار بگیرند.

آموزش نیرو ابزاری قدرتمند است که به فرد اجازه می دهد از هر سیستم دینامیکی به اندازه کافی پیچیده به عنوان پایه ای برای محاسبه جهانی استفاده کند. به نظر می رسد مشکل اصلی در اجرای این تکنیک در شبکه های سنبله کنترل سفارشات بزرگی بین هرج و مرج القا کننده ماتریس وزن و ماتریس وزن بازخورد است. اگر ماتریس وزن هرج و مرج از نظر بزرگی بسیار زیاد باشد (از طریق پارامتر G) ، هرج و مرج دیگر نمی تواند توسط ماتریس وزن بازخورد 1 کنترل شود. با این حال ، اگر ماتریس القا کننده هرج و مرج بسیار ضعیف باشد ، سیستم هرج و مرج دیگر به عنوان یک مخزن مناسب عمل نمی کند. برای حل این مسئله ، ما یک استدلال مقیاس پذیر برای چگونگی مقیاس Q با G برای آموزش موفقیت آمیز بر اساس رفتارهای شبکه مشاهده شده در Ref. 1جالب اینجاست که تعادل بین این نوسانات می تواند مربوط به خاصیت حافظه محو باشد ، یک معیار لازم برای همگرایی شبکه های با نرخ آموزش نیرو 65.

علاوه بر این ، در حالی که ما موفق شدیم این تکنیک را در انواع دیگر نورون اجرا کنیم ، مدل Izhikevich از نظر یادگیری کارهای دلخواه یا پویایی دقیق ترین بود. این به دلیل وجود متغیرهای سازگاری فرکانس سنبله است که در مقیاس زمانی بسیار کندتر از معادلات عصبی کار می کنند. ممکن است نیروهای مرتبط با بیولوژیکی دیگری نیز وجود داشته باشند که می توانند ظرفیت شبکه را به عنوان یک مخزن از طریق پویایی مقیاس طولانی تر ، مانند افسردگی سیناپسی و جریانهای واسطه NMDA به عنوان مثال 66،67،68 افزایش دهند.

علاوه بر این ، ما دریافتیم که گنجاندن یک سیگنال زمانی با ابعاد بالا باعث افزایش دقت و توانایی یک شبکه سنبله برای تولید مثل سیگنال های طولانی می شود. در مرجع. 2 ، نوع دیگری از سرپرست با ابعاد بالا برای آموزش در ابتدا شبکه های هرج و مرج هرج و مرج استفاده می شود. در اینجا ، نویسندگان از یک سرپرست متشکل از مؤلفه های O (n 2) استفاده می کنند (برای اطلاعات بیشتر به Ref. 2 مراجعه کنید). این متفاوت از رویکرد ما شامل ساخت HDTS است که برای تقسیم نورونها به مجامع و از ابعاد پایین تر از O (n 2) است. با این حال ، از Ref. 2 و کار ما در اینجا ، افزایش ابعاد سرپرست ، به دقت و توانایی آموزش نیروی کمک می کند. سرانجام ، این امکان وجود دارد که HDTS یادگیری سریعتر و دقیق تر در شبکه های معادلات نرخ و روش های مخزن عمومی را نیز تسهیل کند.

اگرچه شبکه های آموزش دیده نیرو دارای پویایی هستند که شبیه به جمعیت نورون ها هستند ، اما در حال حاضر تمام روشهای از بالا به پایین که برای ساخت هر شبکه عصبی سنبله کاربردی استفاده می شود ، نیاز به کار بیشتری دارند تا 1،5،8 به قوانین یادگیری بیولوژیکی تبدیل شوند. به عنوان مثال ، شبکه های آموزش دیده نیرو نیاز به اطلاعات غیر محلی در قالب ماتریس همبستگی P (T) دارند. با این حال ، ما نباید ماتریس وزن نهایی تولید شده توسط این تکنیک ها را به عنوان بیولوژیکی غیرممکن کنیم زیرا تکنیک ها خود از نظر بیولوژیکی غیرممکن هستند.

گذشته از فرمول نرخ اصلی در Ref. 1 ، معادلات با نرخ آموزش یافته نیرو اخیراً برای تجزیه و تحلیل و تولید مثل داده های تجربی اعمال شده است. به عنوان مثال ، در Ref. 69 ، نویسندگان از انواع آموزش نیرو (که به عنوان آموزش جزئی در شبکه ، پیننگ) برای آموزش یک شبکه با نرخ برای تولید مثل یک توالی زمانی از فعالیت از داده های تصویربرداری کلسیم موش استفاده کردند. پینینگ از حداقل تغییرات از معماری ماتریس وزن متعادل برای تشکیل توالی های عصبی استفاده می کند. در مرجع. 70 ، نویسندگان دستکاری های تجربی را با شبکه های آموزش دیده با نیرو ترکیب می کنند تا نشان دهند که فعالیت مقدماتی قبل از رفتار حرکتی در برابر آشفتگی های یک طرفه هم به صورت تجربی و هم در مدل های نرخ آموزش آنها مقاوم است. در مرجع. 71 ، نویسندگان نشان می دهند که پویایی مخازن می توانند ظهور انتخاب مخلوط در قشر سینگولات قدامی پشتی (DACC) را توضیح دهند. نویسندگان از یک نسخه اصلاح شده از آموزش نیرو برای اجرای یک کار اکتشافی/استثمار استفاده می کنند که به صورت تجربی نیز روی نخبگان انجام شد. نویسندگان دریافتند که نورونهای آموزش دیده نیرو دارای یک شکل پویا مشابه انتخابی مختلط به عنوان نورون های ضبط شده تجربی در DACC هستند. سرانجام ، در Ref. 72 ، نویسندگان شبکه ای از نورونهای با نرخ را آموزش می دهند تا زمان را در مقیاس ثانیه رمزگذاری کنند. این شبکه متعاقباً برای یادگیری کارهای مختلف فضایی-زمانی مانند یک کار نوشتن خمیده استفاده می شود. این شبکه های آموزش دیده نیرو توانستند نتایج روانشناسی مانند قانون وبر را به خود اختصاص دهند ، جایی که واریانس مقیاس پاسخ مانند مربع زمان از زمان شروع پاسخ. در همه موارد ، شبکه های نرخ آموزش نیرو قادر به پاسخگویی و پیش بینی یافته های تجربی بودند. بنابراین ، شبکه های سنبله آموزش دیده نیرو می توانند برای تولید پیش بینی های جدید با استفاده از اثرات ولتاژ ، زمان سنبله و پارامترهای عصبی بسیار ارزشمند باشند.

تکنیک های آموزش شبکه از بالا به پایین نقاط قوت و کاربردهای مختلفی دارند. به عنوان مثال ، چارچوب مهندسی عصبی (NEF) و رویکردهای برنامه نویسی مبتنی بر سنبله بلافاصله بدون آموزش 5،6،8،9،11 برای ماتریس های وزن زیرین حل می شوند. راه حل ها می توانند مانند رویکرد برنامه نویسی مبتنی بر سنبله یا عددی ، مانند رویکرد NEF ، تحلیلی باشند. علاوه بر این ، راه حل های ماتریس وزن در کل مناطق فضای فاز معتبر است ، جایی که به عنوان آموزش نیرو از مسیرهای فردی به عنوان سرپرست استفاده می کند. مسیرهای چندگانه باید به یک شبکه واحد آموزش داده شوند تا سطح قابل مقایسه ای از عملکرد جهانی در یک منطقه حاصل شود. هر دو مجموعه از راه حل ها بینش متفاوتی در ساختار ، پویایی و عملکرد شبکه های عصبی سنبله دارند. به عنوان مثال ، مدل های عملکردی مقیاس مغز را می توان با شبکه های NEF 8 ساخته شد. شبکه های برنامه نویسی مبتنی بر سنبله نشان می دهند که با استفاده از سنبله پراکنده و کارآمد از طریق راه حل های شبکه متعادل ، چگونه مقیاس خطای مرتبه بالاتر امکان پذیر است. در حالی که رویکردهای برنامه نویسی مبتنی بر NEF و سنبله راه حل های ماتریس وزن فوری را ارائه می دهند ، هر دو تکنیک برای تعمیم سایر شبکه ها یا انواع دیگر کارها دشوار است. هر دو روش برنامه نویسی مبتنی بر NEF و سنبله برای تعیین ماتریس وزن استاتیک که پویایی هدف را به دست می آورد ، به سیستم معادلات دیفرانسیل فرم بسته نیاز دارند.

به طور خلاصه ، ما نشان دادیم که می توان از نیرو برای آموزش شبکه های عصبی سنبله برای تولید مثل پویایی فضا-زمانی پیچیده استفاده کرد. این روش می تواند در آینده برای پیوند مکانیکی فعالیت عصبی به رفتارهای پیچیده حیوانات مورد استفاده قرار گیرد.

مواد و روش ها

معادلات نرخ

شبکه معادلات نرخ توسط موارد زیر آورده شده است: