И еще в тему сегодняшнего обсуждения, наша старая заметка:

И снова про самосбор серверов

Тема самосбора является сильно дискуссионной, у каждой стороны имеются свои веские аргументы и доводы. И каждая позиция имеет свое право на существование.

Но критерием любой теории всегда является практика и здесь многие прибегают к «ошибке выжившего», мол если со мной таких ситуаций не случалось, то это аргумент в мою пользу.

Увы, это не так, а раз в год даже палка стреляет. В чем мы недавно в очередной раз убедились.

На февраль с одним из заказчиков у нас планировался некий проект, но все неожиданно стало на паузу по причине отсутствия свободных вычислительных мощностей.

Но начнем по порядку. Еще осенью администратор этого заказчика купил новый сервер, купил под самосбор на популярной платформе Supermicro. Докупил процессор, память, диски, поднял Proxmox и стал потихоньку переносить нагрузку.

Некоторое время все было хорошо, но, когда используемый объем памяти начал превышать 2/3 установленного – сервер начал падать в kernel panic и все данные показывали на память.

Так и есть, планка в 4-м слоту не проходит тестирование, отнесли в гарантию – тестирование прошла, все ОК. Перекинул планку в другой сервер – проходит. Вернул на место – тоже проходит.

Ну что тут можно сказать? Списали все на плохие контакты. Недели две все работало, потом снова сервер стал падать. Теперь перестала проходить тестирование планка в третьем слоте.

Протестировал в другом сервере – все проходит. Решил поменять память с другим сервером. «Косячная» память там завелась и стала работать без проблем, а та, что нормально работала в другом – снова стала чудить подобным образом.

Опытным путем было установлено, что чудеса начинаются только когда заняты все 4 слота, любые три работали нормально.

Ну тут или материнка или процессор, ни то, ни другое заменить на заведомо исправное возможности не было. Поэтому поехал данный самосбор в гарантию. Что разбивает главный аргумент самосборщиков, что в случае чего можно сдать комплектующие по частям.

Сначала поехал по гарантии к своему дистрибьютору процессор, там не стали заморачиваться и сразу его поменяли.

Вроде бы успех, все работает. Сервер вернулся, но ровно на неделю. Потом снова поехал в гарантию, теперь уже к дистрибьюторам Supermicro. Откуда вернулся с заключением, что с платформой все ОК, но так как память использована не из листа совместимости, то никакой ответственности за такое поведение они не несут.

В общем купили память из листа совместимости, хотя сделать это было не просто, потому как 80% перечисленного там в продаже отсутствует полностью.

И снова получили нестабильную работу. Платформа снова уехала к дистрибьюторам Supermicro и заменили ее только почти спустя месяц. Пока, вроде бы полет нормальный. Хотя времени прошло не так и много.

В итоге куча потраченного впустую времени и купленный дополнительный набор памяти, которую теперь не особо понятно куда девать.

Собственно, об этом мы и писали в цикле по гарантии: все сложные ситуации и дорогие комплектующие будут долго ездить по сервисам, так как никто на себя ответственность за них не возьмет. И свободных, заведомо исправных компонентов серверного класса в сервисах тоже нет.

Покупка сервера в сборе, именно как сервера по документам, не страхует от брака, но позволяет хотя бы уменьшить головняк и затраты, так как память в таком случае производитель или сборщик менял бы за свой счет.

Ну и самому покупателю проще – не работает и все! А там можно и ненадлежащее качество подтянуть через ст. 475 ГК РФ. В общем как бы и все тоже самое, но позиция покупателя, даже юридического лица, становится юридически гораздо более выгодной.

Такая вот история, будем надеяться, что она все-таки закончилась и оборудование больше не принесет сюрпризов.

Про сборку

Сегодня мы поговорим не о самосборе, а о фирменной сборке, когда компьютер из собранных вами комплектующих собирает фирма. Я сам в свое время достаточно проработал на сборке и специально перед написанием данной заметки уточнил у коллег изменилось ли что-то? Нет, ничего принципиально не изменилось.

Как правило сборка – услуга платная, но недорогая. Занимается сборкой штатный состав техотдела фирмы, а не какие-то студенты с улицы. Обычно система построена так, что определенная часть стоимости сборки идет в фонд з/п сотрудника, поэтому отдавать сборку на сторону ему совсем не интересно.

Такса на сборку – примерно 50%, т.е. если брать расценки того же Ситилинка – собрал 4 ПК – получил 1000 руб. к зарплате, мелочь, но приятно. За косяки при сборке налагаются штрафы. В общем экономическая система понятна, это вообще касается не только сборки, но и техотдела в целом, там везде подобная оплата труда.

Сама сборка тоже регламентирована. Среднее время на сборку офисного ПК – 15 минут, сейчас, возможно, даже меньше. Потому как поставить в корпус материнскую плату с процессором и памятью, поставить диск и пару приводов, а затем уложить провода много времени не занимает и каких-то особых тайных знаний не требует.

На сборку есть определенный стандарт, т.е. как должен выглядеть собранный комп, как в нем должны быть уложены провода и т.д. и т.п. Там тоже нет ничего сложного, но есть ряд тонкостей. Скажем, будет ошибкой стянуть одной стяжкой питание и сигнальный кабель. И не потому, что там будут «помехи», а потому что, если человек захочет поменять привод или диск ему придется разрезать весь жгут ради одного провода и все провода распадутся.

В целом правила усваиваются уже на третьей четвертой сборке, на них же набивается рука. Дальше бери больше, кидай дальше. При наличии свободных комплектов сборкой могут заниматься и другие сотрудники – гарантийщики, сетевики и т.д. Лишняя денежка никому не мешает.

Требования там все те же. Но, на практике, круг сборщиков остается одним и тем же, вне зависимости от должностей.

Ок, собрали, дальше что. А дальше смотрим в накладную, если там установка ОС – то переходим к ее установке. Это отдельная статья с отдельной оплатой. Что тогда, что сейчас при массовых сборках ОС ставится из образов, куда уже интегрированы все необходимые драйвера и утилиты.

Т.е. если клиент заказал установку Windows + Office + набор бесплатного ПО, то руками никто не ставит, берут нужный образ и раскатывают. Тоже минут 15 в среднем, а сегодня и того меньше.

Если сборка без системы, то выполняется тестовый запуск, при котором проверяется, что все установленное железо определилось, температуры в норме, частоты соответствуют номиналу. Все, закручиваем корпус, пакуем в коробку.

Никаких настроек BIOS (за исключением порядка загрузки, если надо) не производится. Вообще, никогда. Это прямо запрещено. И за нарушение будет штраф. Компьютер должен быть собран и работать по дефолту.

Если ПК после сброса BIOS не запускается или работает нестабильно, то это косяк сборки и в таком виде его отдавать нельзя, даже если это лечится настройками BIOS.

Теперь про «игровые» и т.п. сборки, у нас было две градации: простая сборки и сложная сборка. В тот же Ситилинке их три, естественно, с разной стоимостью.

Основное отличие сложной сборки от простой – это количество компонентов в сборке и/или трудоемкость установки некоторых из них. Так, скажем водянка или суперкулер сразу переводят сборку в состав сложных, как и некоторые дорогие корпуса.

Все. Других отличий нет. Собирается все одинаково. Среднее время на такую сборку выше – примерно полчаса, по деньгам для сборщика одинаково. Что две простые, что одну сложную.

Никакого «колдунства» сложные сборки не предусматривают. Если есть ОС – то заливка одного из стандартных образов, если нет – тест включения и контроль режимов. Все.

Настраивать ОС, равно как и BIOS, запрещено. Нужно только проконтролировать наличие драйверов, после чего финализировать систему и отдать клиенту.

Неочевидные опасности самосбора для опытных

В заключение поднятой темы разберем еще один момент. Допустим вы прекрасно умеете собирать железо, обладаете нужными знаниями и не один вечер провели за изучением спецификаций и наконец подобрали себе сборку мечты. Сорок раз все сверили и проверили, ну что тут может пойти не так?

На самом деле многое, очень многое. Начнем с совместимости… Но погодите, ведь мы же все досконально проверили… Проверили, только что там написано? Что материнская плата поддерживает выбранный вами процессор начиная с прошивки B5, а к вам пришла плата с прошивкой A11.

Оно как бы и ничего страшного, только на практике прошивка нигде на коробке не написана, и вы получаете классическую ситуацию – система не стартует. А почему? Да пес его знает…

В сервисе это решается просто, на плату ставится заведомо поддерживаемый ею процессор и заведомо рабочая память, подключается заведомо рабочий блок. Потому что мы не знаем в чем причина и выявить это можно только заменой комплектующих на заведомо рабочие.

У вас есть эти комплектующие? Нет. Поэтому вам предстоит веселый квест – выяснить причину неработоспособности. Это мы по условиям задачи знаем, что у платы старый BIOS, наш же сборщик этого не знает и может только предполагать. А тут вариантов много, самых разных, как минимум это еще и память, и блок питания.

Ладно, немного упростим задачу, многие современные платы дороже начального уровня содержат светодиоды или индикаторы, показывающие, что именно не в порядке. И тут мы видим CPU.

Еще раз спросим: у вас на полочке лежит заведомо совместимый с любой версией прошивки процессор? Нет? Мы вас поздравляем, собирайте свое железо в кучку и поезжайте в сервис, там вам BIOS прошьют, возможно даже за деньги.

Что дальше? Память, особенно если вы решили поставить ее по максимуму. И хорошо если она просто не заведется, тогда приносим все это там, где брали и говорим – на работает. Куда хуже, если она будет работать нестабильно или на частотах гораздо ниже номинальных.

А тут мы вступаем на скользкую тропу возврата товара надлежащего качества, который продавец делать совсем не обязан. Да, есть лазейка с дистанционным способом продажи, но там есть оговорка о сохранении товарного вида, что включает в себя упаковку, т.е. распакованный товар, если вы повредили наклейки, пломбы, пленку и т.д. товарный вид теряет.

А дальше все зависит от доброй воли продавца. И очень хорошо если все это вы брали в одном месте. И заказанный вами товар более-менее ходовой. Тогда вам скорее всего его поменяют.

Но если брали то тут, то там, то сдать распакованный товар надлежащего качества может стать еще тем квестом. Основание? Его нет. Товар рабочий, распакованный, товарный вид потерял.

А еще может не хватить длинны проводов блока питания, особенно если у вас дорогой корпус со своим подходом к кабель-менеджменту.

А еще… А много разных еще может вылезти по мелочи. Когда слоты M.2 делят линии со слотами PCIe, накопители ставятся в универсальные слоты, которые подразумевают или/или. Охлаждение во что-то упирается и т.д. и т.п.

Но это все ерунда, потому что еще есть брак. И вот тут вам никуда не деться от гарантийного отдела и сервиса. И, опять-таки, хорошо если вы это все брали в одном месте. Потому как та же память может завестись на тестовом стенде сервиса, а у вас не заводиться или работать нестабильно.

А сервис тоже не настроен ковыряться в чужом железе, поэтому вам покажут, что память рабочая и отправят туда, где брали плату, там история повторится и будете вы бегать туда-сюда-обратно, потому как по отдельности железки ваши работают, а вместе - никак.

И ради чего весь этот квест? Ради понтов, что я сам собрал? Ну понты дороже денег. Я, например, сам собираю свой домашний ПК, но у меня есть заведомо исправный комплект на подмену, и я всегда могу собрать все это в кучу и поехать в сервис к своим друзьям и коллегам, где есть все нужное и можно полноценно все проверить и продиагностировать.

Но это сугубо хобби, а для заказчиков есть готовая сборка. Зачем мне все эти проблемы?

С днем знаний!

Наша отрасль – это непрерывное обучение. Чуть остановился – и ты уже приотстал, сел посидел – и вот уже плетешься где-то далеко позади.

Как сказал Льюис Кэрролл: «Нужно бежать со всех ног, чтобы только оставаться на месте, а чтобы куда-то попасть, надо бежать как минимум вдвое быстрее!»

Технологии меняются достаточно быстро, только успевай. Но для того, чтобы успевать нужна крепкая основа. Потому что все это – вершина айсберга, которая базируется на фундаментальных знаниях.

Если есть понимание базовых вещей, то освоение чего-то нового будет даваться более легко, потому что все равно будет базовое понимание механизма происходящего, а остальное – уже тонкости.

Если же таких знаний нет, то любая новая технология будет казаться загадочным черным ящиком, а инструкции к ней – китайскими грамотами.

С одной стороны, учиться сегодня легко. Есть интернет, есть множество курсов на любой уровень подготовки и кошелек. С другой, существует заблуждение насчет доступности знаний, мол будет нужно – найду.

Но найти можно только тогда, когда вы знаете, что искать. Иначе этот процесс будет похож на поиск черной кошки в темной комнате, особенно если ее там нет. Или будет напоминать анекдот про мужика и часы, который ищет их там, где светлее, а не там, где потерял.

К сожалению, мы с подобными ситуациями сталкивались не раз. Как сталкивались и с фрагментарным уровнем знаний, когда коллега вроде бы знает все в части практической эксплуатации, но стоит сделать шаг в сторону – и все, приплыли.

Поэтому всегда старайтесь освоить не только практические навыки, но и хотя бы на базовом уровне разобраться с продуктом или технологией. Чтобы ваши знания были именно знаниями, опирающимися на теоретический базис. А на заученными заклинаниями и шаманскими камланиями.

Еще раз с праздником! Давайте не забывать учиться!

Скрипты, Ansible, готовые образы и т.д. и т.п.

Практически к каждой сложной статье на нашем сайте можно встретить комментарии: мол много букв, все сложно, много ручной работы… а вот можно взять скрипт, Ansible, запустить готовый образ и получить тот же результат…

Можно, только вот результат будет другой. Совсем другой. Нет, продукт запустится и даже будет работать, только это будет еще один «черный ящик».

Устанавливая любой сложный продукт руками, вы хотя бы на базовом уровне приобретаете понимание из каких компонентов он состоит, как они взаимодействуют друг с другом, где лежат конфигурационные файлы и на что в них следует обратить внимание.

Разворачивая автоматически все это проходит мимо вас, и вы не имеете никакого понятия как оно устроено и работает.

А надо ли? Ведь результат получен. Ну если ваша цель была быстро развернуть продукт, взять денег и убежать – то получен. Во всех остальных случаях установить продукт – это только начало, далее его придется обслуживать и сопровождать.

И вот тут как раз и притаится засада, когда абсолютно любая сложность будет выбивать из седла, потому что нет никакого представления, как этот «черный ящик» устроен и работает.

Тоже самое касается различных панелей и прочих «радостей» начинающего администратора.

Но это абсолютно не означает, что мы против средств автоматизации и облегчения повседневного рутинного труда. Мы только за.

Но применять скрипты, особенно чужие, можно только тогда, когда вы можете прочитать его с листа и сказать, что и где он делает. И только после того, как вы его полностью прочитали.
То же самое касается и плейбуков Ansible, даже официальных. Не можете прочитать – не трогаете, как бы привлекательно не казалось решить вопрос одной-двумя командами.

Про образы мы вообще молчим, образы требуют гораздо большего понимания работы продукта и предполагают навыки его отладки.

Поэтому, если вы хотите научиться, а не просто что-то поставить «для галочки», забываем про все средства развертывания и автоматизации и раз за разом выполняем все действия руками.

С самого нуля и до получения результата, ошибаясь, исправляя ошибки, роняя все это на ровном месте, снова разворачивая и т.д. и т.п. до тех пор, пока эта работа перестанет вызывать у вас сложности, а базовые навыки работы с системой, включая базовую диагностику и отладку не отложатся на подкорке.

И вот тогда и только тогда, когда вы, встав среди ночи можете быстро посмотреть «а что там с системой» и быстро дать ответ – тогда уже берите хоть скрипты, хоть Ansible, хоть готовые образы.

Но к этому моменту вы уже давно будете понимать, что делаете и какой сценарий в каком месте уместен, а в каком нет.

Если же такого понимания нет – то только руками, любое средство автоматизации будет сейчас играть против вас.