Алексей Солодкий

Есть сайт на DLE v9.4. После того как гугл отключил поддержку рекапчи v1 её стало невозможно использовать на сайте. Защиту на основе GD2 боты успешно обходят и регистрируются пачками. Нужно как-то переломать ситуацию. Например впилить в движок новую версию рекапчи.

Каждый день нужно добавлять в систему порядка 200Gb новых файлов размером 20-130Kb
Нужно иметь возможность удалять файлы по определённым критериям (дата загрузки, id юзера).
Всего объём данных примерно 20Тб.
Файлы часто пишутся и редко читаются.
До текущего момента хранили это в ext4 файловой системе примонтированной по nfs. в структуре вида /{day}/{user_id}/files
С этим решением возникали следующие трудности: периодически при перебоях связи между серверами все запросы к nfs просто повисали и приложение блокировалось, тяжело оценить размер занимаемый конкретным днём а также проводить операции удаления дня. Так как директория даты содержит ~500k файлов.

Задача собрать и внедрить БД для хранения этого добра.
Требования к решению:
Настраиваемая надёжность – разные типы данных мы хотим хранить с разным уровнем надёжности. (что-то без отказоустойчивости вообще)
Возможность интеграции с php приложением (в идеале S3 протокол).
Возможность простого мониторинга свободногозанятого места.
Возможность расширять пространство в будущем добавляя сервера.
Простое и эффектное удаление множества данных по определённым критериям.

На сервере с бд (mysql) стало заканчивается место так что было решено перенести бд на новый сервер с более ёмкими дисками.
Конфигурация сервера A: 2 ssd по 240 гб, software raid 1
www.hetzner.de/de/hosting...
pastebin.com/GVBu1eLJ

При миграции бд на другой сервер (B) столкнулся с низкой производительностью бд.
Конфигурация сервера B: 2 ssd по 500 гб, software raid 1:
www.hetzner.de/de/hosting...

Подозрение падает на ssh диски.
После неудачи с новым сервером было решено взять другой сервер (С) на nvme дисках, однако результат оказался таким-же.
Конфигурация сервера С: 2 ssd по 512 гб, software raid 1:
www.hetzner.de/de/hosting...
pastebin.com/eSLMtgnF

Все бенчмарки далее приводятся для сервера с nvme (С) так как доступа к серверу B больше нет однако он показывал схожие результаты по всем бенчмаркам.

Бенчмарки
wa: i.imgur.com/wJCP4eL.png (фиолетовый – новый сервер (С) который на данный момент работает только как slave с мастера, синий – сервер A)
A: pastebin.com/5LfzCqUu
C: pastebin.com/JSJiGqhN

По данным сайта userbenchmark сервер C должен обгонять А по всем параметрам.
ssd.userbenchmark.com/SpeedTest/3641/INTEL-SSDSC2CW240A3
ssd.userbenchmark.com/SpeedTest/30300/NVMe-SAMSUNG-MZVKV512



Оплата по факту решения проблемы. Либо за настройку ос. Либо за подтверждение проблемы в железе и помощи составления запроса в саппорт в результате которого поменяют диски. Либо за доказательство того что так и должно быть.