SASGIS

Веб-картография и навигация

Как оптимизировать КЭШ? (Size 2,20 GB. Size on disk 5,40 GB)

программа для загрузки и просмотра спутниковых снимков Земли, Луны, Марса предоставленных сервисами Google Maps и Космоснимки. Возможность работы с GPS приёмником.

Модератор: Tolik

Re: Как оптимизировать КЭШ? (Size 2,20 GB. Size on disk 5,40 GB)

Сообщение temp » 02 авг 2009, 10:39

ncux писал(а):более 2.5 миллионов файлов в кеше (в тру-крипт). пришлось "париться" со сжатием. ;) иначе хвосты отъедали до половины размера кеша у некоторых "карт"

Вы неправильно выбрали размер кластера когда создавали том, надо было выбрать 0,5 кб. Тогда потерь на 2,5 млн тайлов было меньше гигабайта.
А так естественно если размер кластера 16 кб или 32 кб то будет сжирать места в два раза больше чем весят тайлы (размер тайла, в среднем около 11 кб)

ncux писал(а): не страшно на фат32 хранить?

Я к ней привык, спорить что лучше не буду, это вечный спор, хотя может NTFS для такого количества файлов и лучше
ФАТ более простая система. Проблем не было, несколько раз перезагружал через reset, один раз свет вырубили при работающей закачке -проверку диска делать пришлось, но с содержимым все нормально.
temp
Советчик
 
Сообщения: 279
Зарегистрирован: 26 мар 2009, 18:26
Откуда: UA
Благодарил (а): 0 раз.
Поблагодарили: 0 раз.

Re: Как оптимизировать КЭШ? (Size 2,20 GB. Size on disk 5,40 GB)

Сообщение Vasya » 04 авг 2009, 21:35

А кто-то пытался решить такую задачу:
есть винт на 40 гигов, 35 занято картами(занято меньше, но кластеры и т.д....)
Вопрос - как это богатство перенести на TrueCrypt раздел без использования внешних носителей ?
Сетевого хранилища подобного размера также нет :(
Аватара пользователя
Vasya
Советчик
 
Сообщения: 266
ICQ: 137791
Зарегистрирован: 14 июл 2008, 13:06
Откуда: Одесса
Благодарил (а): 0 раз.
Поблагодарили: 3 раз.

Re: Как оптимизировать КЭШ? (Size 2,20 GB. Size on disk 5,40 GB)

Сообщение temp » 04 авг 2009, 23:51

Vasya писал(а):А кто-то пытался решить такую задачу:
есть винт на 40 гигов, 35 занято картами(занято меньше, но кластеры и т.д....)
Вопрос - как это богатство перенести на TrueCrypt раздел без использования внешних носителей ?
Сетевого хранилища подобного размера также нет :(


Перенести то можно, а есть ли смысл?

Создаем динамический том TrueCrypt на 5 гб, и начинаем его по 5 гб заполнять, скопировали 5 гб, том растянулся, удалили с винта тайлы, скопировали, удалили.

Но там вроде проблема что динамические тома менее стабильны, но не знаю, не проверял.

P.S. Я бы не рисковал, жалко будет если что-то случится.
Если все же будете переность, то не пожалейте 7 грн на 7 болванок ДВД и закатайте туда архивную копию.
temp
Советчик
 
Сообщения: 279
Зарегистрирован: 26 мар 2009, 18:26
Откуда: UA
Благодарил (а): 0 раз.
Поблагодарили: 0 раз.

Re: Как оптимизировать КЭШ? (Size 2,20 GB. Size on disk 5,40 GB)

Сообщение ncux » 05 авг 2009, 06:00

можно попробовать для начала (если ещё не так) конвертировать раздел в нтфс (512 байт кластер). потом применить сжатие. потом по совету temp-а, создать на этом же разделе динамический тру-крипт образ на 40гб (реальный размер пустого будет почти нулёвый)... и переносить помалёху. не копировать а переносить.
а! ради экономии места виртуальник тоже желательно форматнуть в нтфс и приготовить к сжатию средствами винды.
это поможет сэкономить место.
потом можно и "раскукожить" файлы. долго это правдо возиться. :(
p.s. после завершения всех шаманств, отмонтировать образ и сделать дефрагментацию реального раздела, где лежит образ. оно так быстрее будет работать.
ncux
Новичок
 
Сообщения: 20
Зарегистрирован: 23 июл 2009, 09:02
Благодарил (а): 0 раз.
Поблагодарили: 0 раз.

Re: Как оптимизировать КЭШ? (Size 2,20 GB. Size on disk 5,40 GB)

Сообщение Vasya » 06 авг 2009, 01:19

Ох как это всё (через жопу) не стабильно.... Нет уж, буду ждать более "уверенного" варианта.
Аватара пользователя
Vasya
Советчик
 
Сообщения: 266
ICQ: 137791
Зарегистрирован: 14 июл 2008, 13:06
Откуда: Одесса
Благодарил (а): 0 раз.
Поблагодарили: 3 раз.

Re: Как оптимизировать КЭШ? (Size 2,20 GB. Size on disk 5,40 GB)

Сообщение ncux » 06 авг 2009, 05:18

мне самому интересно, чем можно было бы заменить тру-крипт?! неохота реальный раздел обкакивать мелкими файлами. в тру-крипт нет возможности отключения шифрации.

есть ли альтернативы или аналоги? (исключая микрософтовские VHD)
ncux
Новичок
 
Сообщения: 20
Зарегистрирован: 23 июл 2009, 09:02
Благодарил (а): 0 раз.
Поблагодарили: 0 раз.

Re: Как оптимизировать КЭШ? (Size 2,20 GB. Size on disk 5,40 GB)

Сообщение webdev2 » 07 авг 2009, 10:48

есть winmount. Монтирует как логический диск zip, rar. Но там рекомендуется для скорости конвертить архивы в их формат mou. Есть и портабельная версия.

и Daemon tools, если не ошибаюсь, rar-архивы может монтировать.

Архивы, разумеется, делаются без сжатия в режиме "store"

Думается, скоро одной из главных задач в развитии САС-Планеты станет работа с большими массивами тайлов.
Ежедневно у пользователей растут кеши, вон у некоторых уже миллионы тайлов.
Я уже думаю, чтобы не просто кэш спутника в одном файле-базе держать, а как бы его скажем в файлах по 2-4 гига хранить, для удобства переноски, и чтобы на флешке, а не на винте носить.
webdev2
Новичок
 
Сообщения: 32
Зарегистрирован: 20 мар 2009, 15:36
Благодарил (а): 0 раз.
Поблагодарили: 0 раз.

Re: Как оптимизировать КЭШ? (Size 2,20 GB. Size on disk 5,40 GB)

Сообщение Oleggg10 » 13 авг 2009, 11:10

feya
Предлагаю, если это возможно, на основе склейки тайлов создать в программе возможность загрузки изображений другого размера, и сформировать изображения из 4 тайлов в один (слепить в кубики и прогой распознать их как большой тайл), это уменьшит КОЛИЧЕСТВО файлов на диске в 4 раза, что увеличит быстродействие, при этом чтоб старые файлы удалялись.
Понимаю что это сложно, но думаю возможно как нибудь сделать в будущем.
А ещё интересует как кэш поведёт себя если его записать на диск, а в будущем на Blu-ray?
Oleggg10
Новичок
 
Сообщения: 13
Зарегистрирован: 09 ноя 2008, 16:20
Благодарил (а): 0 раз.
Поблагодарили: 0 раз.

Re: Как оптимизировать КЭШ? (Size 2,20 GB. Size on disk 5,40 GB)

Сообщение Parasite » 13 авг 2009, 16:04

Oleggg10 писал(а):А ещё интересует как кэш поведёт себя если его записать на диск

А щас он где?

Oleggg10 писал(а):а в будущем на Blu-ray?

Предполагаю, что он весьма обрадуется. :)
The only difference between me and a mad man is that I am not mad. /Salvador Dali/
Изображение
Аватара пользователя
Parasite
Администратор
 
Сообщения: 5646
Зарегистрирован: 23 окт 2008, 17:38
Благодарил (а): 124 раз.
Поблагодарили: 512 раз.

Re: Как оптимизировать КЭШ? (Size 2,20 GB. Size on disk 5,40 GB)

Сообщение Oleggg10 » 13 авг 2009, 18:59

Предполагаю, что он весьма обрадуется

Диск, в смысле на DVD, а сейчас он на HDD. И вопрос в том, как сильно это повлияет на быстродействие?
Oleggg10
Новичок
 
Сообщения: 13
Зарегистрирован: 09 ноя 2008, 16:20
Благодарил (а): 0 раз.
Поблагодарили: 0 раз.

Пред.След.

Вернуться в SAS.Планета

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 35