RagaAI създава иновативен инструмент за откриване и отстраняване на грешки в системи за изкуствен интелект

RagaAI, стартъп, основан от Gaurav Agarwala, бивш служител на компании като Nvidia Corp. и Texas Instruments Inc., е получил финансиране от 4,7 милиона долара за разработката на инструмент, който има за цел да открива и отстранява грешки в системи за изкуствен интелект (ИИ). Инвестицията в размер на 4,7 милиона долара е осъществена от pi Ventures, с участието на Anorak Ventures и TenOneTen Ventures.

RagaAI, базирана в Силиконовата долина, използва основни модели, за да открива и премахва проблеми, свързани с ИИ, като халюсинации и неспособността да се разглежда реалната информация в реално време. Основателят, 44-годишният Gaurav Agarwala, споделя своето „близко смъртоносно преживяване“ по време на тест на полуавтономно превозно средство на пътя в Калифорния. Системата на изкуствения интелект не успяла да разпознае препятствия на пътя, като го принуди да спре ръчно и избегне инцидент. Агарвал отбелязва настоятелната необходимост да се предотвратят такива ситуации, особено в напреднали приложения на ИИ, като откриване на рак, поддръжка на самолети и ИИ-базирани инструменти за подбор на персонал.

RagaAI е поредният стартъп с цел да се отговори на нуждите, произтичащи от глобалното развитие на изкуствения интелект. В момента повечето усилия са насочени към създаване на модели и приложения, без да се обърне достатъчно внимание на откриването и тестването на грешки. Платформата на RagaAI предлага над 300 теста, които помагат на бизнесите да идентифицират проблеми и да намерят техните корени. Инструментът може да открива проблеми като неправилни маркировки на данни и влияние с предразсъдъци. Той също помага при откриването на халюцинации – лъжлива и заблуждаваща информация, представена като факт, и насочени нападения, насочени към предизвикването на дефекти в моделите.

Финансирането, сигурно от РagaAI ще бъде използвано за изследвания и разширяване на екипа от инженери, който в момента главно е базиран в Bangalore. Компанията вече работи с няколко големи клиенти в сферите на електронната търговия, аерокосмическата промишленост и медицинското изображаване, въпреки че конкретните имена не са разкрити. Въпреки че платформата вече е намалила грешките си с 90%, не са предоставени допълнителни подробности по този въпрос.

Често задавани въпроси (ЧЗВ)