به نقل از نیواطلس، هم اکنون سیستم های هوش مصنوعی جلوه های صوتی برای تصاویر ساکن از خیابان های شهر و اماکن دیگر می سازند اما یک فناوری آزمایشی جدید برعکس این فرایند را انجام می دهد.

«یوهائو کانگ» و همکارانش در دانشگاه تگزاس «مدل انتشار صدا به تصویر» (Soundscape-to-Image Diffusion Model) را براساس مخزن داده ای از کلیپ های صوتی و تصویری ۱۰ ثانیه ای آموزش دادند.

این کلیپ ها شامل تصاویر ثابت و صداهای محیطی از ویدئوهای یوتیوب مربوط به خیابان های شهری و حومه ای در آمریکای شمالی، آسیا و اروپا بودند. محققان با استفاده از الگوریتم های یادگیری عمیق نه تنها به سیستم آموزش دادند چه اصواتی به چه آیتم هایی در تصاویر مرتبط است، بلکه چه کیفیت اصواتی با محیط های بصری مطابقت دارد.

پس از تکمیل آموزش به سیستم دستور داده شد تصاویری را فقط براساس صدای محیطی ضبط شده از ۱۰۰ ویدئو چشم انداز خیابان بسازد. این سیستم به ازای هر ویدئو یک عکس ساخت.

در  این مرحله هریک از عکس ها همراه ۲ تصویر تولید شده از خیابان های دیگر به پنلی از داوران انسانی نشان داده شد و همزمان صدایی که عکس ها براساس آن تولید شده بودند نیز پخش شد. هنگامیکه از داوران خواسته شد ۳ عکس مرتبط با صدای شنیده شده را شناسایی کنند، آن ها با دقت متوسط ۸۰ درصد این کار را انجام دادند.

همچنین هنگامی که تصاویر تولید شده با رایانه تحلیل شدند، شباهت نسبی آسمان، سرسبزی محیط و ساختمان ها نیز به شدت با نمونه هایی در ویدئوهای اصلی بودند، همخوانی داشت. در واقع حتی در بسیاری از موارد تصاویر شرایط روشنایی در منبع ویدئویی مانند آب و هوای آفتابی، ابری یا آسمان شب را نشان می داد.