Annabelle Stephenson
Nvidia увійшла в область генеративного штучного інтелекту зі своїм останнім технологічним демонстраційним продуктом під назвою Chat with RTX. Цей демо-варіант, наразі знаходиться у бета-версії 0.2, надає приклад того, яким буде майбутнє штучного інтелекту на пристроях. На відміну від інших моделей штучного інтелекту, що покладаються на хмарні розрахунки для обчислювальної потужності, Chat with RTX дозволяє користувачам запускати чатбот безпосередньо на своїх комп’ютерах. Цей підхід не тільки забезпечує швидкий час реакції, але й підвищує безпеку даних.
Для впровадження Chat with RTX, все, що вам потрібно, це графічний процесор (GPU) Nvidia серій 30 або 40, 8 ГБ оперативної пам’яті та ОС Windows 11. Як виявилося нашим партнером сайт PCMag, розмір завантажуваного файлу демо-версії становить приблизно 35 ГБ, а для встановлення потребується ще 100 ГБ вільного місця на диску. Процес встановлення займає від 30 хвилин до години, тому його можна залишити без нагляду. Варто зазначити, що Chat with RTX не підтримує старіші графічні процесори з серії RTX 20, можливо, через недостатню кількість тензорних ядер, які є важливими для генеративного штучного інтелекту.
Подібно до ChatGPT або Copilot від Microsoft, Chat with RTX дозволяє користувачам взаємодіяти з великим мовним моделем, розробленим Nvidia і відомим як Mistral. Користувачі можуть задавати запитання моделі, яка швидко генерує відповіді, отримуючи дані з Інтернету і навіть зі складних документів, таких як PDF-файли та відео на YouTube. Хоча Nvidia заявляє, що Chat with RTX також може забезпечувати переклад мови, ця функція наразі ще не доступна.
Оцінка PCMag показує, що Chat with RTX працює подібно до ChatGPT, але відсутні деякі його функції. Наприклад, Chat with RTX інколи пропускає деякі частини запитів, тоді як ChatGPT не має таких проблем. Поточною визначальною особливістю Chat with RTX здається його здатність зробити підсумок текстових файлів (PDF, Doc, txt) та відео на YouTube і відповідати на запитання, засновані на їх вмісті. Хоча всі ми любимо 18-хвилинні пригоди з графічними процесорами, текстова версія була б приємним доповненням для любителів текстового контенту.
Згідно з оцінкою PCMag, Chat with RTX відмінно підсилює відео на YouTube, але його продуктивність із PDF-файлами, що містять результати тестування графічних процесорів, була різноманітною. Водночас, коли давалися точні відповіді на відео на YouTube, модель надавала неправильні відповіді та мав проблеми з наступними запитаннями, коли надавалися PDF-файли. Наразі Chat with RTX здається більш експериментальним інструментом, що розміщує Nvidia впереді своїх конкурентів у цій галузі. Проте, оскільки як AMD, так і Intel пристрої з встановленими нейропроцесорними блоками (NPUs), виникає питання, на чиїх пристроях буде оброблятися штучний інтелект, який ми хочемо використовувати на наших комп’ютерах. На жаль, ситуація стає все більш конкурентною.
Часті питання – Програма Chat with RTX
The source of the article is from the blog cheap-sound.com
