Annabelle Stephenson
RagaAI, стартап, заснований Гаурав Агарвалою, випускником компаній, таких як Nvidia Corp. та Texas Instruments Inc., отримав фінансування у розмірі 4,7 мільйони доларів для розробки інструменту, який спрямований на виявлення та виправлення дефектів у системах штучного інтелекту (ШІ). Інвестиції першого раунду склали 4,7 мільйони доларів і були проведені під керівництвом pi Ventures, з участю Anorak Ventures та TenOneTen Ventures.
RagaAI, знаходиться в Сіліконовій Долині, використовує основні моделі для виявлення та усунення проблем, пов’язаних з ШІ, таких як галюцинації та відсутність урахування критичної реальної інформації. Засновник, 44-річний Гаурав Агарвал, розповів про свій “близький до смерті досвід”, коли випробовував напівавтономне транспортне засіб на автомагістралі в Каліфорнії. Система ШІ не впоралась з виявленням перешкод на дорозі, вимушуючи його ручно гальмувати та уникати аварії. Агарвал наголосив на необхідності негайно уникати таких ситуацій, особливо в передових застосуваннях ШІ, таких як виявлення раку, технічне обслуговування повітряних суден та інструменти з найму на основі ШІ.
RagaAI – ще один стартап, який має на меті вирішувати потреби, що випливають з глобального розвитку штучного інтелекту. Наразі більшість зусиль спрямовані на створення моделей та застосунків з меншою увагою, приділеною виявленню та тестуванню помилок. Платформа RagaAI пропонує більше 300 тестів, які допомагають бізнесам виявляти проблеми та знаходити їх кореневі причини. Інструмент в змозі виявляти проблеми, такі як некоректна позначка даних та вплив зміщень. Він також допомагає виявляти галюцинації – неправдиву та вводячу в оману інформацію, представлену як факт, та навмисні атаки з метою спричинення несправностей моделі.
Кошти, які отримала RagaAI, будуть використані на дослідження та розширення команди інженерів, що наразі базується переважно в Бангалорі. Компанія уже співпрацює з кількома крупними клієнтами у галузі електронної комерції, аерокосмічної промисловості та озображень в медицині, хоча конкретні назви не були розкриті. Хоча платформа уже зменшила кількість випадків невдач на 90%, жодних подальших деталей не надано на цей рахунок.
Часто Задавані Питання (FAQ):
1. Що розуміється під системами штучного інтелекту?
Системи штучного інтелекту (ШІ) використовують комп’ютерні алгоритми для виконання завдань, які зазвичай вимагають інтелекту людини. ШІ можуть відтворювати операції розуму, такі як розпізнавання голосу, аналіз даних та прийняття рішень.
2. Які проблеми можуть виникати в системах штучного інтелекту?
У системах штучного інтелекту можуть виникати різноманітні проблеми, такі як неправильна обробка даних, нахил до прийняття біасованих рішень та галюцинації – надання неправдивої інформації. Також існує можливість навмисних атак на моделі штучного інтелекту з метою спричинення несправностей.
Джерело: [додати посилання на тему]
