Stockage de données relationnelles volumineuses ?

Stockage de données relationnelles volumineuses ? - SQL/NoSQL - Programmation

Marsh Posté le 13-04-2006 à 10:15:47    

Bonjour à tous,
 
J'ai un petit problème en python. (mais le langage importe peu au final)
 
J'ai un énorme fichier (450Mo, 350'000 entrées) que je lis à chaque lancement de mon programme pour en extraire les informations. (genre ID->Age, ID->ID2, ID2->ID, ID->Taille, etc....). Il y a d'autres fichiers de taille moinde, mais pas négligeable (genre 90'000 entrées).
Je lis mon fichier et j'en extrais les informations utiles. Ces informations sont placés dans des Dictionnaires. (= hashtable, table de hashage en d'autres langages)
Ensuite j'utilise ces informations avec un autre fichier.
 
Y'aurait-il un moyen simple et élégant pour ne pas devoir lire à chaque fois cet énorme fichier et gagner du temps de calculs ?
 
J'ai pensé à une base de donnée comme MySQL, mais ça prendrait du temps pour la lire je pense (j'ai quand même 350'000 entrées).
Sinon j'ai entendu parler de DBM et GDBM, pour stocker des dictionnaires en dur. Quelqu'un utilise ça ?
 
Un avis ?


Message édité par Rasthor le 13-04-2006 à 10:41:35
Reply

Marsh Posté le 13-04-2006 à 10:15:47   

Reply

Marsh Posté le 13-04-2006 à 10:23:44    

Y'a pySQlite également.  
http://linuxfr.org/2004/06/19/16605.html

Reply

Marsh Posté le 13-04-2006 à 15:26:40    

En gros tu fais une mise en cache au démarrage !
Peux tu envisager un chargement à la demande ?

Reply

Marsh Posté le 13-04-2006 à 15:31:12    

Le problème, c'est que j'ai besoin de ces infos. Donc ne pas les charger ne sert à rien.

Reply

Sujets relatifs:

Leave a Replay

Make sure you enter the(*)required information where indicate.HTML code is not allowed