Amazon Q poderÃa ter serios problemas de seguridade e fiabilidade
venres, 1 de decembro do 2023
Esta
semana Amazon
presentou un asistente de intelixencia artificial para empresas, coa
promesa de que esta solución ofrecerÃa respostas rápidas e precisas, coidando
sempre a seguridade, pero agora que Amazon
Q está dispoñible de xeito preliminar confÃrmanse os meirande temores
sobre esta tecnoloxÃa, pois resulta ter os mesmos problemas que os modelos de
linguaxes que existen no mercado, carecendo do nivel de seguridade e precisión
que promete Amazon.
Dente Platformer aseguran que Amazon
Q ten serias alucinacións (ou sexa, achega datos inventados) e filtra
información confidencial, aÃnda que estamos a falar de incidencias que están a
detectarse agora que hai usuarios podendo probar o servizo, polo que aÃnda hai
marxe para que se vaian corrixindo os problemas máis serios antes de que o servizo
se comercialice de xeito ordinario.
Cómpre salientar este asistente de AWS busca entrar nas empresas gañándose a
súa confianza, pois a seguridade e a privacidade son grandes preocupacións para
a meirande parte dos negocios, que en moitos casos prohibiron aos seus
empregados o uso de ferramentas de IA xenerativa ante o temo de filtracións.
Pero o caso de que detectasen que Amazon Q tamén dea información incorrecta resulta
máis preocupante, pois suponse que ten que servir para dar servizos de atención
ao cliente e de axudar a tomar decisións dentro da empresa, e se os resultados
non teñen garantÃas será difÃcil que as empresas dean o grande paseo de depositar
a súa confianza na IA desenvolvida por Amazon.