Data Engineering Digest
Ссылка
нажмите — покажем
нажмите — покажем
Мне очень нравится вопрос: Чем Parquet отличается от Iceberg?
Если очень-очень грубо усреднить ответы, то получится что-то типа: Parquet - это файл с данными, а Iceberg - это данные + метаданные про этот файл.
Но если Iceberg «умный» и уже хранит метаданные, почему в стеке Trino + S3 до сих пор живет Metastore? Какие функции он выполняет?
На этот вопрос ответят в докладе Михаила Иванова "Что такое metastore и с чем его едят?"
YT : https://www.youtube.com/watch?v=BJnOb_BJCLQ
VK : https://vkvideo.ru/video-147464741_456239481
Привычного формата поста не будет, так как в докладе разбирают специфичный кейс компании, которой не подошли современные metastore и они пошли по пути написания своего решения. Я бы порекомендовал посмотреть первые 15 минут доклада для Junior/middle специалистов, а для Senior/Architector последние 15 минут доклада) Но доклад правда интересный)
Покидаю интересные скрины с доклада следующим постом:
21 · 932 ·